기업의 인공지능(AI) 활용이 보편화됐지만, 기존 데이터 아키텍처와 거버넌스 체계가 AI 확장을 가로막는 주요 요인으로 떠올랐다. 기업들은 퍼블릭 클라우드에 집중했던 기존 전략에서 벗어나 프라이빗 클라우드와 온프레미스, 엣지를 함께 활용하는 하이브리드 아키텍처로 전환하고 있다.

클라우데라는 전 세계 기업 아키텍트와 클라우드 인프라 담당자, 데이터 아키텍트 1,500명을 대상으로 조사한 ‘AI 아키텍처 대전환(The Great AI Re-Architecture)’ 보고서를 발표했다.

보고서에 따르면 응답 기업의 77%가 현재 AI를 활용하고 있다고 답했다. 반면 95%는 지난 1년 동안 거버넌스와 컴플라이언스, 규제 문제로 AI 이니셔티브를 지연하거나 취소한 경험이 있는 것으로 나타났다.

응답자의 72%는 향후 AI 요구사항을 충족하려면 현재 데이터 아키텍처를 대대적으로 개편해야 한다고 답했다. AI 도입은 빠르게 확산하고 있지만, 기존 데이터 분석을 중심으로 구축된 인프라는 AI가 요구하는 확장성과 거버넌스, 유연성을 충분히 지원하지 못하고 있다는 분석이다.

클라우데라는 기업들이 기존 데이터 아키텍처를 재설계하고 대규모 데이터의 위치와 관계없이 신뢰할 수 있는 AI를 안전하게 활용할 수 있는 하이브리드 환경으로 이동하는 현상을 ‘AI 아키텍처 대전환’으로 정의했다.

세르지오 가고 클라우데라 최고기술책임자(CTO)는 “AI 시대는 기업이 기술 인프라의 기반을 다시 점검하도록 요구하고 있다”며 “많은 기업이 데이터 분석을 위해 구축한 아키텍처가 오늘날 AI가 요구하는 확장성, 거버넌스, 유연성을 충족하도록 설계되지 않았다는 사실을 깨닫고 있다”고 말했다.

이어 “AI 성공은 통제와 보안을 해치지 않으면서 가장 효과적인 환경 어디에서나 AI를 실행할 수 있는 자율성을 제공하는 데이터 기반 구축에 달려 있다”고 덧붙였다.

AI 워크로드 확산에 인프라 비용도 증가

AI는 개별 파일럿 프로젝트를 넘어 기업 운영 전반으로 확대되고 있다. 이에 따라 대규모 AI 운용을 고려하지 않고 설계된 기존 인프라의 부담도 커지는 것으로 조사됐다.

응답자의 75%는 AI 도입으로 기업의 데이터 저장과 아키텍처 운영 방식이 달라졌다고 답했다. 84%는 AI 워크로드로 인해 인프라 비용이 증가했다고 밝혔다.

기업이 데이터 저장 위치뿐 아니라 데이터를 관리하고 거버넌스를 적용하는 방법, AI 시스템에 데이터를 전달하는 구조까지 재검토하고 있다는 의미다.

아시아태평양 지역에서는 변화가 더욱 두드러졌다. 아태지역 응답자의 84%가 AI 도입으로 데이터 저장과 아키텍처 운영 방식이 바뀌었다고 답했으며, 68%는 향후 AI 요구에 대응하려면 현재 데이터 아키텍처를 대대적으로 개편해야 한다고 응답했다.

거버넌스 문제로 AI 프로젝트 6개 이상 지연·취소

기업용 AI가 확산하면서 데이터 거버넌스는 AI 프로젝트의 성패를 좌우하는 핵심 인프라로 부상했다.

클라우데라가 앞서 발표한 데이터 준비 지수 보고서에서는 응답 기업의 75%가 AI로 인해 기존 거버넌스 프로세스의 한계가 드러나고 있다고 답했다. 이번 조사에서는 응답자의 73%가 AI 도입으로 데이터 거버넌스가 더욱 복잡해졌다고 밝혔다.

응답자의 55%는 거버넌스와 컴플라이언스, 규제 문제로 최근 12개월 동안 6개 이상의 AI 프로젝트를 지연하거나 취소한 것으로 나타났다.

데이터가 여러 환경에 분산되는 현상도 거버넌스 부담을 키우고 있다. 응답자의 97%는 최소 월 1회 이상 데이터를 다른 환경으로 이동한 경험이 있다고 답했다. 퍼블릭 클라우드와 프라이빗 클라우드, 온프레미스, 엣지 전반에 일관된 거버넌스를 적용하는 체계가 필요한 배경이다.

기업 66%, AI 워크로드 퍼블릭 클라우드 밖으로 이전

기업들은 AI 성능과 비용, 보안, 거버넌스를 균형 있게 확보하기 위해 하이브리드 아키텍처 도입을 확대하고 있다.

글로벌 응답자의 66%는 지난 1년 동안 퍼블릭 클라우드에서 운영하던 AI 워크로드를 프라이빗 클라우드 또는 온프레미스로 이전했다고 답했다. 아태지역에서도 63%가 AI 워크로드 일부를 프라이빗 클라우드나 온프레미스 환경으로 옮긴 것으로 조사됐다.

이는 퍼블릭 클라우드 사용을 일괄적으로 줄이기보다 AI 워크로드의 특성과 비용, 보안 및 규제 요건에 따라 적합한 실행 환경을 선택하려는 움직임으로 풀이된다.

기업들은 앞으로도 단일 배포 모델에 의존하지 않고 클라우드와 온프레미스, 엣지, 하이브리드 환경 전반에 투자를 확대할 계획이다. 응답자의 25%는 향후 2년 동안 하이브리드 우선 아키텍처를 최우선 전략으로 추진하겠다고 밝혔다.

최승철 클라우데라코리아 지사장은 “많은 기업이 거버넌스와 규제 문제로 AI 프로젝트를 지연하거나 취소했고, AI 워크로드를 퍼블릭 클라우드 밖으로 옮겼다”며 “규제 산업의 비중이 높고 데이터 주권 요구가 강한 국내 시장도 같은 흐름에 놓여 있다”고 말했다.

이어 “국내 기업들이 신뢰할 수 있는 데이터를 기반으로 AI를 확장하려면 클라우드와 온프레미스, 엣지를 아우르는 하이브리드 아키텍처와 일관된 거버넌스가 중요하다”고 강조했다.

이준문 기자/jun@newstap.co.kr

ⓒ 뉴스탭(https://www.newstap.co.kr) 무단전재 및 재배포금지