기업들이 인공지능(AI) 토큰을 ‘무조건 많이 쓰는’ 시대가 막을 내리고 있다. 미국 경제매체 CNBC는 6월 26일 오픈AI(OpenAI)와 앤트로픽(Anthropic)이 ‘토큰맥싱(tokenmaxxing)’에서 ‘효율성’으로 옮겨가는 고객 수요 변화에 직면했다고 보도했다. 한때 개발자에게 프런티어 모델을 가능한 한 많이 쓰라고 독려하던 기업들이, 이제는 더 명확한 투자수익률(ROI)과 비용 통제, 더 저렴한 대안을 요구하고 있다.

우버는 일부 AI 도구에 월 1,500달러를 기본선으로 하는 단계별 지출 한도를 도입했고, 직원이 더 높은 등급을 신청하도록 했다. 우버 최고기술책임자(CTO)는 지난 4월 ‘연간 AI 예산을 단 4개월 만에 모두 소진했다’고 밝혔다. AI 스타트업 린디(Lindy)의 최고경영자(CEO)는 클로드(Claude) 모델에서 트래픽 100%를 중국산 오픈웨이트 모델 딥시크(DeepSeek)로 옮기며 ‘비용 곡선이 바닥으로 꺼지는 게 보였다’고 말했다.

오픈AI와 앤트로픽은 ‘비용을 따지지 않는’ 지출 기조의 최대 수혜자였다. 두 회사 모두 폭발적 성장률을 발판으로 1조 달러에 육박하는 기업가치를 인정받았고, 6월 초 나란히 비공개 기업공개(IPO) 신청서를 제출했다. 하지만 대형 고객들이 토큰 지출을 적극 관리하기 시작하면서 성장률을 유지하기가 까다로워질 수 있다는 분석이 나온다. 샘 알트만(Sam Altman) 오픈AI CEO도 최근 사내 행사에서 AI 비용이 기업 고객에게 ‘큰 문제’가 됐다고 인정했다.

월스트리트저널은 앞서 오픈AI가 앤트로픽의 인하에 대비해 토큰 가격을 대폭 낮추는 방안을 적극 검토 중이라고 전했다. 현재 API 기준 GPT-5.5는 100만 토큰당 입력 2.5달러·출력 15달러, 클로드 오퍼스 4.8은 5달러·25달러다. 반면 중국산 딥시크 V4-Pro는 0.44달러·0.87달러에 불과하다. 오픈라우터(OpenRouter)에서 중국 모델 사용 비중은 2024년 약 1%에서 올해 5월 60%를 넘어섰다.

가격 인하 카드는 두 회사의 IPO를 시험대에 올리는 방안이다. 가격을 내리면 상장을 앞둔 시점에 매출이 직접 깎이고, 내리지 않으면 더 싼 대안으로 고객이 빠져나간다. 분석가들은 가격 전쟁에서 살아남는 쪽은 토큰당 서빙 비용이 낮은 사업자라고 본다. 현재로선 가장 먼저 흑자에 다가선 앤트로픽이, 1달러를 벌기 위해 1.35달러를 쓰는 오픈AI보다 유리한 위치에 있다는 평가다. 무작정 토큰을 쏟아붓던 흐름이 ‘쓴 만큼의 성과’를 증명하는 쪽으로 옮겨가고 있다.

자세한 내용은 CNBC에서 확인할 수 있다.

이미지 출처: AI 생성