The blueprint to scaling AI for business transformation

생성형 AI(Generative AI)가 기업 전략의 핵심으로 자리 잡으면서, 많은 기업이 파일럿 프로젝트의 성공을 전면 도입으로 확장하는 과정에서 새로운 도전에 직면하고 있다. 다국적 정보기술 서비스 및 컨설팅 기업 캡제미니(Capgemini)와 에버레스트 그룹(Everest Group)이 공동 발표한 리포트에 따르면, 조직의 80%가 지난 한 해 동안 생성형 AI 투자를 늘렸으며, 거의 4분의 1이 이 기술을 운영에 통합했다고 밝혔다.

생산성 7.8% 향상, BMW와 에네코가 증명한 생성형 AI의 실질적 효과

생성형 AI 도입이 실험 단계를 넘어 실질적인 비즈니스 가치를 창출하고 있다는 증거가 속속 나타나고 있다. 캡제미니의 연구 결과에 따르면, 생성형 AI는 생산성을 7.8% 향상시키고 고객 참여도와 만족도를 6.7% 개선하는 것으로 나타났다.

실제 기업 사례를 살펴보면 그 효과가 더욱 명확하다. 에네코 이모빌리티(Eneco eMobility)는 고객 서비스 에이전트의 생산성을 크게 개선하여 평균 마무리 시간을 50% 단축했다. BMW는 30-40%의 생산성 증가와 함께 이해관계자 경험을 향상시켰으며, ABN AMRO는 연간 200만 건 이상의 고객 대화를 자동화하면서 인간 개입이 필요한 경우를 30%에서 23%로 줄일 것으로 예상된다고 발표했다.

BFSI 46% vs HLS 24%, 업계별로 다른 AI 도입 속도의 이유

2024년 1분기 에버레스트 그룹의 600여 기업 대상 설문조사에 따르면, 전 세계 조직의 83%가 생성형 AI 이니셔티브를 적극적으로 파일럿하거나 이미 프로덕션급 사용 사례에 구현했다고 응답했다. 하지만 업계별로 도입 속도에는 상당한 차이가 있다.

은행·금융·보험(BFSI) 업계와 하이테크·기술 업계가 가장 적극적으로 생성형 AI를 실험하고 확대하고 있다. BFSI 업계의 경우 46%가 광범위하게 활용하고 있으며, 39%가 실험하면서 투자를 확대하고 있다. 반면 의료·생명과학(HLS) 분야는 데이터 프라이버시와 보안 우려, 제한된 훈련 데이터 접근성 등의 복잡한 문제로 인해 보다 신중한 단계적 접근 방식을 취하고 있다.

성공적인 AI 확장을 위한 6가지 핵심 요소

AI를 파일럿에서 전면 도입할 때, 성공적으로 전환하기 위해서는 체계적인 접근이 필요하다. 리포트는 6가지 핵심 성공 요소를 제시했다.

첫째, 기업 전체의 AI 전략 수립이다. AI 전략을 조직의 전반적인 비즈니스 전략 및 목표와 통합해야 하며, 비즈니스 가치, 실현 가능성, 위험을 기준으로 사용 사례를 전략적으로 식별하고 우선순위를 정해야 한다.

둘째, AI를 위한 운영 모델 구축이다. 조직의 현재 AI 성숙도, 위험 허용도, 거버넌스 요구사항에 따라 중앙집중형, 분산형, 또는 하이브리드(연합형) 모델 중에서 적절한 운영 모델을 선택해야 한다.

셋째, 책임감 있는 AI 구현이다. 포괄적인 AI 거버넌스 및 위험 관리 프레임워크를 구축하고, AI 생명주기 전반에 걸쳐 위험 완화 조치를 통합해야 한다.

넷째, AI 인재 확보와 육성이다. AI 생명주기에 필요한 역할과 전문 기술을 정의하고, 맞춤형 학습 및 개발 프로그램을 제공해야 한다.

다섯째, 견고한 데이터 기반 구축이다. AI 모델을 위한 고품질의 주석이 달린 데이터 가용성을 보장하고, 견고한 데이터 품질 관리 프로세스를 구현해야 한다.

여섯째, 확장 가능한 AI 기술 스택 구축이다. 빌드, 구매, 파트너십 접근 방식 중에서 적절한 AI 소싱 전략을 선택하고, 오픈소스와 독점 모델 간의 장단점을 신중히 평가해야 한다.

비용 급증부터 통합 실패까지, AI 도입 시 반드시 피해야 할 4가지 함정

성공 요소만큼 중요한 것은 흔히 발생하는 실수들을 피하는 것이다. 첫 번째 함정은 전략적 비즈니스 목표에서 벗어나는 위험이다. 조직들이 장기적인 비즈니스 목표보다 당장의 성과나 빠른 성공에 우선순위를 두면서 AI 프로젝트가 전략적 목표와 어긋나는 경우가 있다.

두 번째는 통제되지 않는 비용 상승이다. AI 프로젝트는 광범위한 데이터 사용과 모델 상호작용으로 인해 비용이 급증할 수 있으며, 실제 비용 구조는 다층적이어서 모델 개발은 전체 투자의 일부에 불과하다. 세 번째는 AI 통합과 관련된 문제들이다. 기존 IT 인프라, 특히 레거시 시스템과 AI 기술을 통합하는 것은 까다로우며, 조직들이 종종 기존 시스템과 AI 기술을 정렬하는 데 필요한 노력을 과소평가한다.

FAQ

Q: 생성형 AI를 도입하려는 기업이 가장 먼저 해야 할 일은 무엇인가요?

A: 기업의 전체 비즈니스 전략과 연결된 명확한 AI 전략을 수립하는 것이 가장 중요합니다. 비즈니스 가치, 실현 가능성, 위험도를 기준으로 사용 사례의 우선순위를 정하고, 측정 가능한 목표와 핵심성과지표(KPI)를 설정해야 합니다.

Q: AI 도입 시 가장 큰 비용 요소는 무엇인가요?

A: 많은 기업이 놓치는 부분은 모델 개발비용이 전체 투자의 일부에 불과하다는 점입니다. 변화 관리, 운영 비용, 지속적인 최적화가 훨씬 더 많은 자원을 소모합니다. 체계적인 재정 프레임워크와 비용 동인을 추적하는 KPI가 필수입니다.

Q: 업계별로 AI 도입 속도가 다른 이유는 무엇인가요?

A: 현재 데이터 가용성, 기술적 준비도, 비용 영향, 규제 및 컴플라이언스 고려 사항, 생성형 AI 역량 요구사항 등의 차이 때문입니다. 예를 들어 BFSI와 소매업은 잘 구조화된 데이터 저장소와 고객 상호작용을 보유해 생성형 AI 기반 자동화와 개인화에 더 적합한 반면, 의료 분야는 데이터 프라이버시와 보안 우려로 더 신중한 접근이 필요합니다.

해당 기사에 인용된 리포트 원문은 캡제미니에서 확인 가능하다.

이미지 출처: 캡제미니

해당 기사는 챗GPT와 클로드를 활용해 작성되었습니다.