가트너가 현지 시각 8월 10일 발표한 전망에서 올해 전 세계 AI 최적화 인프라 클라우드 지출이 422억 7,600만 달러(약 59조 9천억 원)에 이를 것으로 내다봤다. 지난해 215억 2,900만 달러에서 96.4% 늘어난 값이며, 내년에는 661억 4,300만 달러(약 93조 7천억 원)까지 커질 것으로 봤다.

AI 최적화 인프라 클라우드는 대형 언어 모델을 학습시키고 기업 업무에 AI를 붙여 돌리는 데 쓰는 클라우드 서비스를 가리킨다. 전체 인프라 클라우드 시장은 올해 2,873억 4,700만 달러로 29.3% 성장할 것으로 전망된다. AI 부문 성장 속도가 세 배 이상 빠르다.

올해 처음으로 추론 지출이 학습 지출을 앞서게 된다. 가트너는 추론에 233억 달러, 학습에 190억 달러가 쓰일 것으로 집계했다. 추론은 이미 학습을 마친 모델이 실제 요청을 받아 답을 내놓는 과정을 말한다. AI 최적화 인프라 클라우드 지출에서 추론이 차지하는 비중은 올해 55%, 내년 59%로 커진다.

하디프 싱 가트너 수석 책임 연구원은 성장 동인으로 두 가지를 들었다. 대형 언어 모델 학습 수요가 이어지는 데다, 기업이 애플리케이션과 업무 흐름 전반에 AI를 실제로 돌리기 시작했다는 것이다. 그는 기업이 모델을 만드는 단계에서 실제 서비스 규모로 배포하는 단계로 넘어가면서, 미세조정을 거친 도메인 특화 모델이 고객 응대나 운영 시스템에 들어가 주기적인 학습이 아니라 상시 실행을 요구하게 됐다고 설명했다. 미세조정은 이미 학습된 모델에 특정 분야 자료를 더 보여 주며 다듬는 작업이다.

여러 단계를 스스로 실행하는 에이전트형 AI가 늘어난 것도 추론 비중을 키운 요인으로 꼽혔다.

자세한 내용은 가트너에서 확인할 수 있다.

이미지 출처: 가트너