
Gen AI Takes Center Stage
1년 만에 16%에서 89%로… 생성형 AI 도입률 폭발적 증가
생성형 인공지능(생성형 AI)에 대한 기업들의 접근 방식이 불과 1년 만에 탐색 단계에서 본격적인 가속화 단계로 급격히 전환됐다. 전략 컨설팅 및 엔터프라이즈 벤치마킹 전문 기업 해킷 그룹(The Hackett Group)의 2025년 주요 이슈 연구에 따르면, 경영진의 89%가 자사에서 생성형 AI 이니셔티브를 추진 중이라고 밝혔다. 이는 작년 조사에서 생성형 AI를 통한 비즈니스 혁신을 최우선 과제로 삼았다는 경영진이 16%에 불과했던 것과 대조적인 결과다.
기업들은 이제 생성형 AI 어시스턴트와 AI 에이전트를 확장하여 성과를 재구상하고 경쟁 우위를 확보하는 데 우선순위를 두고 있다. 여기서 '어시스턴트'란 자연어를 이해하고 대화형 인터페이스를 활용해 사용자를 위한 작업을 완료하는 지능형 애플리케이션을 의미하며, '에이전트'는 사용자나 다른 시스템을 대신해 자율적으로 작업을 수행하도록 설계된 지능형 프로그램을 말한다.
대부분의 경영진은 현재 높은 중앙집권형에서 더 분산되고 비즈니스에 내장된 구조에 이르기까지 다양한 공식 모델을 통해 생성형 AI 도입을 지원하고 있다. 그러나 최대의 효과를 얻기 위해서는 데이터 품질 문제, 프로세스 및 기술 복잡성, 현실적인 혜택 기대치 설정의 어려움 등을 극복해야 한다.
2025년에는 생성형 AI 이니셔티브가 기업 활동의 중심 무대를 차지할 전망이다. 생성형 AI 어시스턴트와 에이전트를 운영에 계획하거나 통합하지 않는 조직들은 중요한 갈림길에 서 있다고 볼 수 있다.

기업 58%가 고객 경험 개선에 생성형 AI 활용, 3대 비즈니스 목표 지원
2025년 기업의 3대 비즈니스 목표는 고객 만족/경험 향상, 시장 침투율 증가, 제품/서비스 혁신 발전인 것으로 나타났다. 이는 이전 연구에서 최우선 목표가 마진 개선/보호였던 것과는 확연히 다른 결과로, 지속적인 경제적 불확실성과 다른 잠재적 위험에도 불구하고 성장에 더 초점을 맞추는 방향으로 변화하고 있음을 보여준다.
경영진들은 이러한 우선순위 달성에 생성형 AI가 핵심적인 역할을 할 것으로 기대하고 있다. 기업의 절반 이상이 최우선 목표인 고객 만족 및 경험 개선을 지원하기 위해 생성형 AI를 활용할 계획이다. 특히 고객 만족 및 경험 향상에는 58%, 제품/서비스 혁신에는 47%, 비용 리더십 달성에는 46%의 기업이 생성형 AI를 도입할 예정이라고 응답했다.
기업들은 새로운 성과와 경쟁 우위를 창출할 수 있는 기회를 활용하기 위해 생성형 AI 도입을 가속화하고 있다. 조사에 참여한 거의 모든 기업이 고도로 중앙집중화된 모델부터 더 분산되고 비즈니스에 내장된 모델에 이르기까지 네 가지 모델 중 하나를 수용하여 규모를 확장하고자 한다.
각 기업에 적합한 모델은 생성형 AI 솔루션(어시스턴트 및 에이전트 포함)을 업무와 인력에 통합하기 위한 올바른 기반을 신속하게 구축할 수 있게 해주는 모델이다. 기반 구축 여정의 초기 단계에 있는 기업일수록 생성형 AI 솔루션을 배포하는 위치와 방법을 엄격하게 관리하고 통제하기 위해 중앙집중식 모델을 채택할 가능성이 높다. 반면에 더 강력한 기반을 갖춘 기업들은 생성형 AI 활용을 확장하기 위한 분산형 모델을 가질 가능성이 높다.

품질 40% 이상 개선: 생성형 AI 도입 기업들이 경험하는 실질적 효과
경영진들은 생성형 AI를 통해 품질, 생산성, 고객/직원 경험 개선, 운영 비용 및 인력(FTE) 감소 등의 가치를 창출하고 있다고 보고했다. 현재 나타나는 대부분의 가치는 최대 25%의 개선과 같은 점진적인 수준이다. 그러나 품질과 생산성에서 40% 이상의 개선을 보고한 일부 기업들은 혁신적이고 획기적인 가치의 가능성을 보여주고 있다.
기업들이 새로운 성과와 경쟁 우위 잠재력을 실현하기 위해서는 주요 장애물을 해결해야 한다. 설문조사에서 경영진들은 경영진의 후원 및 투자 확보보다 프로세스 및 기술 복잡성 해결, 데이터 품질, 생성형 AI 기대치 정의 및 충족에 대한 우려가 더 컸다. 이는 2024년 실험에서 2025년 비즈니스 우선순위를 지원하는 실제 솔루션 제공으로의 초점 전환을 반영한다.
공동 지능(Co-intelligence) 수용과 인재 재교육: 생성형 AI 확장의 핵심 전략
2024년에 기업들과 경영진은 생성형 AI 실험을 통해 중요한 교훈을 얻었다. 2025년에는 생성형 AI를 확장할 준비가 된 조직들이 새로운 수준의 성과와 경쟁 우위를 확보하고, 지속적인 사이버 보안, 경제, 인재 및 기타 위험에 대응하는 데 필요한 비즈니스 탄력성을 갖추게 될 것이다. 생성형 AI 솔루션(어시스턴트 및 에이전트 포함)은 업무와 인력을 변화시킬 것이다. 기업은 단순히 생성형 AI를 기존 운영 모델에 통합하는 것만으로는 노력을 확장할 수 없으며, 획기적인 가치를 추구하고 실현하기 위해 운영 모델을 재구성해야 한다.
해킷 그룹은 2025년 운영 모델 재구성과 생성형 AI 노력 확대를 위한 권장사항을 발표했다. 우선, 기업들이 기초 학습에서 생성형 AI 확장으로 전환할 것을 제안한다. 생성형 AI를 지속적으로 발전시키는 기업들은 더 큰 비즈니스 가치를 실현하고 최우선 비즈니스 목표를 달성하고 있다. 이를 위해 리더들이 사전에 참여하여 생산성, 품질, 고객 및 직원 경험, 비용 절감과 같은 혜택을 파악하는 것이 중요하며, 단순히 반응적인 사용 사례 검토는 피해야 한다고 조언한다.
또한 공동 지능(co-intelligence)을 수용하고 고립된 사용 사례를 넘어설 것을 권장한다. 워튼 스쿨의 이단 몰릭 교수가 제시한 '공동 지능' 개념처럼, 생성형 AI는 업무와 인력을 변화시키므로 인간과 AI가 협력적으로 함께 일하는 환경을 조성해야 한다. 복잡성 해결을 위한 준비에도 집중해야 한다. 복잡성은 진행을 늦추거나 방해할 수 있으므로, 가치 창출 시간을 개선하기 위해 프로세스 기회를 우선시하고, 특정 복잡성, 데이터 품질 및 기술 문제를 식별하고 해결하는 것이 필요하다.
마지막으로, 재교육과 역량 강화 및 변화 관리를 통한 인재 준비를 우선시해야 한다. 생성형 AI에 준비된 직원들을 보유한 조직은 업무 프로세스에 대한 지식을 활용하여 업무를 재구성할 수 있다. 이를 위해 직원 개발 프로그램을 재정의하고, 증가하는 생성형 AI 교육 기회를 활용해야 한다. 해킷 그룹은 조직들이 새롭게 출현하는 모범 사례를 활용하여 생성형 AI를 채택하고 배포하는 데 긴급성을 가지고 행동해야 하며, 그렇지 않으면 경쟁에서 뒤처질 위험이 있다고 강조했다.
FAQ
Q: 생성형 AI 어시스턴트와 에이전트의 차이점은 무엇인가요?
A: 생성형 AI 어시스턴트는 자연어를 이해하고 대화형 인터페이스를 사용해 사용자를 위한 작업을 완료하는 지능형 애플리케이션입니다. 반면 AI 에이전트는 사용자나 다른 시스템을 대신해 자율적으로 작업을 수행하도록 설계된 지능형 프로그램으로, 보다 독립적인 작업 수행이 가능합니다.
Q: 기업들이 생성형 AI 도입에서 직면하는 가장 큰 장애물은 무엇인가요?
A: 해킷 그룹의 연구에 따르면, 기업들은 기존 프로세스 및 기술의 복잡성, 데이터 품질 문제, 비현실적인 혜택 기대치를 가장 큰 장애물로 꼽았습니다. 특히 복잡성이 진행을 방해하거나 늦추는 주요 요인으로 작용하고 있습니다.
Q: 생성형 AI를 도입한 기업들은 어떤 가치를 얻고 있나요?
A: 기업들은 생성형 AI 도입으로 품질 개선(최대 40% 이상), 생산성 향상, 고객 및 직원 경험 개선, 운영 비용 감소, 필요 인력(FTE) 감소 등의 가치를 얻고 있습니다. 현재는 대부분 25% 미만의 점진적 개선이 주를 이루지만, 일부 기업들은 40% 이상의 혁신적 개선 효과를 보고하고 있습니다.
해당 기사에서 인용한 리포트의 원문은 링크에서 확인할 수 있다.
이미지 출처: 해킷
기사는 클로드와 챗GPT를 활용해 작성되었습니다.
AI Matters 뉴스레터 구독하기