마이크로소프트가 엑셀과 아웃룩 등 자사 제품에서 오픈AI·앤트로픽 모델을 자체 개발한 MAI 모델로 바꾸기 시작했다. 블룸버그가 7월 7일 처음 보도했고, 이후 이틀간 후속 보도가 이어졌다. 널리 쓰이는 이 스프레드시트·이메일 앱에서 매주 수만 건의 AI 질의가 이제 사내 MAI 모델로 처리된다.

이유는 비용을 꼽을 수 있다. 마이크로소프트 365 앱 안에서 코파일럿이 질문에 답할 때마다 컴퓨팅 요금이 붙는다. 사용량이 많은 앱일수록 이 비용이 계속 쌓이는데, 외부 모델을 호출하는 대신 자체 모델로 답하면 그만큼 지출이 줄어든다. 이번 전환도 그 추론 비용을 줄이려는 것이 의도로 분석됐다. 마이크로소프트의 AI 책임자 무스타파 술레이만(Mustafa Suleyman)은 지난 6월 MAI 모델을 더 써서 앤트로픽에 지불하는 비용을 줄이려 한다고 밝힌 바 있다.

전환은 차차 이뤄지고 있는 것으로 알려졌다. MAI가 엑셀과 아웃룩에서 매주 수만 건을 맡고 있지만, 마이크로소프트 전체 AI 사용량에서 차지하는 몫은 여전히 작은 편이다. 외부 모델을 쓰던 다른 기능은 그대로 두고, 비용 최적화 차원에서 점진적으로 넓혀 가는 방식이다.

마이크로소프트는 오픈AI의 최대 투자자이면서도 반복되는 사내 작업에는 값싼 자체 모델을 쓰기 시작했다. 외부 프런티어 모델과 사내 모델을 어떻게 나눠 쓰느냐가 대형 기업의 AI 원가 구조를 좌우한다.

자세한 내용은 Bloomberg에서 확인할 수 있다.

이미지 출처: 이디오그램 생성