오픈AI(OpenAI)가 2025년 발표한 기업 AI 현황 리포트에 따르면, 전 세계 100만 개 이상의 기업이 챗GPT(ChatGPT)와 API를 업무에 활용하고 있으며, 기업들의 AI 사용 강도가 급격히 증가하고 있는 것으로 나타났다. 특히 선도 기업과 후발 기업 간 AI 활용 격차가 뚜렷해지면서, AI 도입 속도와 깊이가 기업 경쟁력을 좌우하는 핵심 요소로 부상했다.

챗GPT 메시지 8배, API 토큰 320배... 폭발적으로 늘어난 기업 AI 사용량

오픈AI는 현재 700만 개 이상의 챗GPT 엔터프라이즈(ChatGPT Enterprise) 좌석을 제공하고 있으며, 지난 1년간 엔터프라이즈 좌석 수가 약 9배 증가했다. 2024년 11월 이후 주간 엔터프라이즈 메시지는 전체적으로 약 8배 증가했고, 개별 근로자 한 명당 메시지 전송량도 30% 늘어났다. 이는 단순히 AI를 사용하는 기업이 많아진 것을 넘어, 기업들이 AI를 더욱 깊이 있게 업무에 통합하고 있음을 보여준다.

특히 맞춤형 GPT(Custom GPTs)와 프로젝트(Projects) 사용자가 올해 들어 약 19배 증가했다. 맞춤형 GPT는 특정 지침, 지식, 맞춤 작업을 설정할 수 있는 인터페이스로, 반복적이고 여러 단계로 이루어진 업무를 자동화할 수 있게 해준다. 최근 몇 달간 전체 엔터프라이즈 메시지의 약 20%가 맞춤형 GPT나 프로젝트를 통해 처리됐다. 스페인 금융 그룹 BBVA는 정기적으로 4,000개 이상의 GPT를 사용하고 있어, AI 기반 워크플로우가 일상적인 운영 도구로 자리 잡았음을 보여준다.

API 워크플로우도 빠르게 확장되고 있다. 9,000개 이상의 조직이 100억 개 이상의 토큰을 처리했으며, 약 200개 조직은 1조 개 이상의 토큰을 소비했다. 조직당 평균 추론 토큰 소비량은 지난 12개월간 약 320배 증가했는데, 이는 더 지능적인 모델이 확장되는 제품과 서비스에 체계적으로 통합되고 있음을 시사한다.

하루 40-60분 절약하고 새로운 기술 업무까지... 근로자들이 체감하는 AI 효과

기업 근로자들은 AI 사용으로 실질적인 생산성 향상을 경험하고 있다. 설문조사에 참여한 근로자의 75%가 AI 사용으로 업무 속도나 품질이 개선됐다고 답했다. 평균적으로 챗GPT 엔터프라이즈 사용자들은 AI 덕분에 활동 일수당 40~60분의 시간을 절약했다고 보고했다. IT 직원의 87%가 IT 문제 해결 속도가 빨라졌다고 답했으며, 마케팅 및 제품 담당자의 85%는 캠페인 실행 속도가 향상됐다고 응답했다.

AI는 기존 업무를 가속화할 뿐만 아니라 근로자들이 수행할 수 있는 업무 범위도 확장하고 있다. 근로자의 75%가 이전에는 할 수 없었던 업무를 완료할 수 있게 됐다고 답했는데, 여기에는 프로그래밍 지원, 데이터 분석, 기술 도구 개발 등이 포함된다. 엔지니어링, IT, 연구 부문 외에서 코딩 관련 메시지가 지난 6개월간 평균 36% 증가했다. 주당 10시간 이상 절약한다고 답한 근로자들은 주당 2시간 미만 절약 그룹보다 8배 많은 크레딧을 사용하고 있어, 더 집중적인 AI 사용이 더 큰 생산성 향상으로 이어지고 있다.

선도 근로자는 중간값의 6배, 선도 기업은 2배... 벌어지는 AI 활용 격차

AI 활용 수준에서 명확한 격차가 나타나고 있다. 선도 근로자(채택 강도 상위 5%)는 중간값 근로자보다 6배 많은 메시지를 생성한다. 데이터 분석 업무를 하는 사람들 중에서도 선도 근로자는 중간값보다 데이터 분석 도구를 16배 더 많이 사용한다. 코딩에서는 격차가 가장 크게 나타나, 선도 근로자가 중간값보다 17배 많은 메시지를 보낸다.

사용 데이터와 설문 결과를 연계한 분석에 따르면, 약 7가지 작업 유형에 걸쳐 AI를 사용하는 사용자는 약 4가지만 사용하는 사용자보다 5배 더 많은 시간을 절약한다고 보고했다. 그러나 월간 활성 사용자 중 19%는 데이터 분석을 전혀 사용해 본 적이 없고, 14%는 추론을 사용해 본 적이 없으며, 12%는 검색을 사용해 본 적이 없다. 이는 기업들이 AI 성숙도를 높일 수 있는 상당한 여지가 있음을 보여준다.

기업 차원에서도 격차는 뚜렷하다. 선도 기업(상위 5%)은 중간값 기업보다 좌석당 약 2배 많은 메시지를 생성하고, GPT에 대한 메시지는 7배 더 많이 생성한다. 산업별로는 기술 산업이 전년 대비 11배 성장으로 선두를 달렸고, 의료는 8배, 제조는 7배 성장했다. 지역적으로는 호주, 브라질, 네덜란드, 프랑스가 전년 대비 143% 이상 증가하며 가장 빠른 성장을 보였다.

인터컴 통화 해결률 53%, 로우스 전환율 2배... AI로 성과 낸 기업들

실제 기업 사례들은 AI가 측정 가능한 비즈니스 성과를 창출하고 있음을 보여준다. 인터컴(Intercom)은 오픈AI의 리얼타임 API(Realtime API)를 활용한 핀 보이스(Fin Voice)를 통해 대기 시간을 48% 감소시켰고, 평균 53%의 통화를 처음부터 끝까지 해결하고 있다. 사람 상담원이 필요한 통화도 핀 보이스가 초기 단계를 완료하면 40% 더 빠르게 해결된다.

BBVA는 기업 대표의 서명 권한을 확인하는 법적 절차를 자동화하는 AI 챗봇을 구축했다. 챗GPT 엔터프라이즈로 구축된 솔루션은 연간 9,000건 이상의 질문을 자동화했으며, 3명의 정규직 인력 상당을 재배치하여 연간 11,000건 이상의 법적 확인 작업을 생산하도록 했다. 이는 법률 서비스 부서 연간 절감 목표의 26%를 달성한 것이다.

모더나(Moderna)는 챗GPT 엔터프라이즈를 사용해 목표 제품 프로필(TPP) 초안 작성 워크플로우를 간소화했다. 핵심 분석 단계가 경우에 따라 몇 주에서 몇 시간으로 단축됐으며, 모더나는 TPP 계획 초기에 얻은 하루하루가 환자를 위해 더 빠르게 제공하는 데 도움이 될 수 있다고 밝혔다.

FAQ ( ※ 이 FAQ는 본지가 리포트를 참고해 자체 작성한 내용입니다.)

Q1. 기업에서 AI를 활용하면 실제로 얼마나 시간을 절약할 수 있나요?

A: 오픈AI의 설문조사에 따르면, 챗GPT 엔터프라이즈 사용자들은 평균적으로 하루 활동 일수당 40~60분의 시간을 절약한다고 답했다. 데이터 과학, 엔지니어링, 커뮤니케이션 분야에서는 하루 60~80분 이상 절약하는 것으로 나타났다. 더 많은 AI 기능을 사용하고 다양한 업무에 AI를 활용할수록 시간 절약 효과가 커진다.

Q2. 어떤 산업에서 AI 도입이 가장 빠르게 증가하고 있나요?

A: 기술 산업이 전년 대비 11배 성장으로 가장 빠른 성장세를 보이고 있다. 의료 산업은 8배, 제조업은 7배 성장했다. 절대적인 사용 규모로는 전문 서비스, 금융, 기술 부문에 가장 많은 기업 고객이 집중돼 있다. 산업별로 성장 속도와 활용 방식에 차이가 있지만, 모든 산업에서 중간값 기준 6배 이상의 성장을 기록했다.

Q3. 선도 기업과 후발 기업의 AI 활용 차이는 어느 정도인가요?

A: 선도 근로자(상위 5%)는 중간값 근로자보다 6배 많은 메시지를 생성하며, 선도 기업은 중간값 기업보다 좌석당 2배, GPT 메시지는 7배 더 많이 생성한다. 코딩 작업의 경우 격차가 더 커서 선도 근로자가 중간값보다 17배 많은 메시지를 보낸다. 이러한 격차는 AI 성숙도의 차이를 반영하며, 더 깊이 있게 AI를 활용하는 기업과 근로자가 더 큰 생산성 향상을 경험하고 있다.

해당 기사에 인용된 리포트 원문은 arvix에서 확인 가능하다.

리포트 명: The state of enterprise AI

이미지 출처: 오픈AI

해당 기사는 챗GPT와 클로드를 활용해 작성되었습니다.