[IT동아 김예지 기자] 지난 29일 방송통신위원회 보도에 따르면, 지난해 국민의 4명 중 3명은 생성 인공지능(AI)을 써본 경험이 있다. 일상 전반에서 AI가 활용되는 만큼, 최근 기업도 조직 전반에 AI 솔루션 도입을 확대하는 추세다.

이러한 가운데 한국IBM은 17일 여의도 국제금융센터 더 포럼에서 ‘AI 인사이트 포럼’을 개최했다. 김현정 한국IBM 컨설팅 대표는 IBM 기업가치연구소(IBV)가 세계 2000명의 CEO를 대상으로 실시한 ‘IBM CEO 연구’에 결과를 발표했다. 이 연구는 매년 세계 기업 CEO의 경영 화두 및 디지털 전환의 흐름을 파악하기 위해 실시된다. IBM은 크게 기술 및 컨설팅 부서로 나뉘며, 컨설팅 부서에서 기업의 비즈니스 및 기술 업무를 지원해 생산성을 높이는 데 주력하고 있다.

IBM, “2년 안에 AI 투자 성장률 2배 증가”

IBM CEO 연구에 따르면, 세계 60% 이상의 CEO는 시행착오가 크더라도 AI 기술을 내재화하겠다는 의지를 보였다. 생성 AI 도입이 기존 방식과 달라 불편함을 야기하더라도 생성 AI 도입 속도를 높인다고 밝힌 비율도 절반에 달했다. IBM은 “이러한 추세에 발맞춰 향후 2년 내 AI 투자 성장률이 2배 이상 증가할 것”으로 전망했다.

김현정 대표는 “AI 기술은 단순히 시장 경쟁 구도를 넘어 산업 재편을 가져올 만큼 큰 변화를 일으킬 것”이라며, “이러한 변화는 조직 내 두려움을 야기할 수 있지만 위험을 감수해야 한다”고 강조했다. 그는 “기업은 체계적인 투자 수익률(Return on Investment, ROI) 분석을 통해 조직의 수용도를 높이는 방법을 찾아야 한다. 기업의 데이터와 인재 등 핵심 경쟁력을 확보해 AI 가속화 전략을 고민한 기업이 실질적 성과를 달성할 수 있을 것”이라고 주장했다.

그러나, 한국은 세계 기업에 비해 신중한 입장을 보였다. 세계 CEO의 60% 이상이 AI 에이전트 도입을 준비 중이라고 밝힌 반면, 한국은 45%에 그쳤다. 위험 감수에 대한 의지도 52%로 세계 평균보다 약 10% 낮았다. 이러한 답변은 국내 기업의 특성을 반영하는 것으로 풀이된다. 국내 기업의 80%는 ‘빠르게 진행해 시행착오를 겪는 것’보다 ‘느리고 정확하게 진행하는 것’이 낫다고 판단했다. 한국은 기존의 운영과 혁신 투자의 균형을 유지하는 데 노력을 기울인다. 한편, AI가 가져올 혁신은 세계 평균보다 10% 이상 크게 인식하고 있다. 또한 통합된 전사 데이터 아키텍처가 부서 간 협업과 혁신의 핵심이라고 인식하는 비율도 82%로 평균(68%)보다 높았다.

김현정 대표는 기업의 AI 도입이 실질적인 변화와 성과로 연결되기 위한 5가지 마인드셋을 제시하며, 의식 전환뿐만 아니라 기업의 독자 데이터와 인재를 강조했다. 그는 “생성 AI의 가치를 결정하는 데이터 투자가 필수적”이며, “과거의 아웃소싱 방식은 AI 인재 확보 문제를 해결하기 어렵기 때문에 파트너십 기반으로 제한된 자원을 효율적으로 활용해야 한다”고 말했다.

또한 AI 도입 성과를 평가할 때, ROI에 기반한 의사결정을 강조했다. 김현정 대표는 “지난 3년간 수행했던 AI 프로젝트 중에서 ROI는 25%에 불과하다고 조사됐다. 그러나 현재 AI 기술의 가치는 연구개발(R&D)에 초점을 두고 있기 때문에 10%의 성과도 유의미하다”고 설명했다. 그러면서 “AI 도입과 함께 ROI도 자사의 AI 기술에 운영 체계를 갖도록 개선해야 한다”고 말했다. 한편, IBM은 현재 단순 비용보다 가치 창출에 ROI 측정 기준을 둔다.

공공·민간 AI 도입 현주소와 전략 공유

발표에 이어 ▲주세민 미래에셋증권 AI 본부 본부장 ▲주성환 서울AI재단 AI 혁신사업본부 본부장 ▲김동현 코웨이 DX 센터 전무는 패널토의를 통해 공공 및 민간 조직에서 AI 도입 전략과 실제 기업 현장에서 직면한 어려움, AI 도입 시 핵심 조건에 대한 이야기를 나눴다.

미래에셋증권은 생성 AI를 금융 시스템에 도입해 거대언어모델(LLM) 서비스 기반으로 모든 고객에게 금융 정보를 공평하고 투명하게 제공하는 것을 목표한다. 주세민 본부장은 “망 분리 규제와 속도를 맞춰 GPU 인프라를 구축하고, AI를 내부 백오피스 중심으로 도입하고 있다”고 말했다. 그는 서비스 신뢰성 확보를 과제로 보지만, 환각 등 위험보다 생성 AI가 고객에게 제공하는 이점이 더 크다고 봤다. 또한 AI 도입의 가장 큰 어려움으로는 업무에 적합한 인력 확보를 꼽았다.

서울AI재단은 지난 5월 출범 이후 서울시 행정 시스템에 AI를 도입해 생산성을 강화하고, 다양한 AI 프로젝트를 추진하고 있다. 주성환 본부장은 “전체 큰 그림은 중앙정부가 그리되, 서울시만의 차별화된 정책을 추진하고 있다”고 말했다. 그는 “서울시가 행정 데이터를 기업과 개인이 활용할 수 있도록 지원하며, 로봇 등 피지컬 AI를 기반으로 디지털 취약계층을 돕는 측면도 고민하고 있다”고 말했다. 또한 “AI를 도입할 때, 과거에는 인식 전환이 어려웠지만 앞으로는 인재 확보가 가장 큰 고민”이라고 덧붙였다.

코웨이는 넷마블부터 AI 투자를 이어오며 클라우드 기반으로 제미나이 등 다양한 AI 솔루션을 적극 도입하고 있다. 김동현 전무는 “코웨이는 내부 조직 전체의 AI 적응력을 높이는 데 주력해 내부 구성원의 역량 강화를 위한 방안을 모색하고 있다”고 말했다. 또한 그는 “산재된 데이터 확보에 어려움을 겪었지만 SAP 시스템 기반으로 빅데이터를 처리했다. 현재 넷마블과 전문 인력을 공유하며 문제를 해결하고 있다”고 덧붙였다.

한편, 기업 담당자는 AI가 활성화되기 위한 규제의 개선 필요성에 대해 공감했다. 주성환 본부장은 공통 플랫폼 기반 전방위적 확산을 강조했다. 주세민 본부장은 “정부 투자뿐만 아니라 기업이 협력할 수 있는 국내 AI 생태계의 구축해야 한다”고 주장했다. 마지막으로 김동현 전무는 “국내에도 거대 클라우드 사업자가 필요하다. 다수의 작은 업체보다 소수의 대규모 기업이 필요하다”고 말했다.

AI 기술이 일정 궤도에 오르면서 이제는 AI 활용 능력이 승패를 가를 것으로 전망된다. 생성 AI가 개인과 기업에 변화를 이끈다는 공감대가 형성된 만큼 국내 기업들은 틈새시장을 공략해 강점을 발굴하고 빠르게 실행에 옮기는 게 중요하다. 전문가들은 끊임없이 변화하는 AI 기술의 흐름을 꾸준히 따라가며 혁신을 멈추지 않는 자세가 필요하다고 입을 모았다.

IT동아 김예지 기자 (yj@itdonga.com)