Rethinking IT operating models for the modern enterprise

기업 경영 핵심으로 부상한 생성형 AI, 15% 높은 매출 성과 달성

생성형 AI(Generative AI)가 기업의 IT 운영 방식을 근본적으로 변화시키고 있다. 액센추어(Accenture)의 리포트에 따르면, 2019년부터 2024년 사이 AI 기반 혁신을 추진한 기업들은 그렇지 않은 기업들보다 15% 높은 매출 성과를 달성했으며, 이 수치는 2026년까지 두 배로 증가할 전망이다. 이러한 성과를 인식한 전 세계 기업 임원의 86%가 2025년에 생성형 AI 투자를 확대할 계획이며, 글로벌 C레벨 리더의 63%는 향후 3년 내에 IT 조직을 혁신할 예정이라고 밝혔다.

생성형 AI로 인한 변화는 단순한 기술 업데이트 수준을 넘어서고 있다. 기존 IT 운영 모델을 개선하는 정도로는 현재의 문제를 해결할 수 없으며, AI는 기업이 어떻게 운영되어야 하는지, IT 부서의 역할이 무엇인지에 대한 근본적인 재평가를 촉발하고 있다. 경영진들은 'IT 부서의 미래는 무엇인가?', '생성형 AI와 에이전트형 AI 시대에 IT는 어떻게 진화해야 하는가?', '기술이 어떻게 수익, 혁신, 주주 가치를 창출할 수 있는가?'와 같은 질문에 직면하고 있다.

수십 년간 새로운 기술과 이를 배포하고 관리하는 IT 부서의 역할은 시장 차별화를 주도하는 데 중요한 역할을 했다. 그러나 생성형 AI는 이러한 판도를 바꾸고 있다. 기술 전략이 IT 부서를 넘어 비즈니스 전략 영역으로 확장되면서, 인사, 재무, 마케팅, 공급망, 법무, 운영 등 조직 전반의 기능 영역에서 생성형 AI를 활용한 업무 혁신이 이루어지고 있으며, 이들 부서가 C레벨의 의사결정에 영향을 미치는 중요한 역할을 담당하게 되었다.

인간과 AI의 협업으로 달성한 생산성 35% 향상과 디지털 두뇌의 탄생

인간과 기계의 협업이 만들어내는 '확장된 지능(Amplified Intelligence)'은 기업에 엄청난 효율성을 가져오고 있다. 생성형 AI, 에이전트형 아키텍처 등의 기술적 돌파구로 비즈니스 전반에서 더 많은 사람들이 기술을 선택하고 배포할 수 있게 되면서 비즈니스와 IT 사이의 경계가 모호해졌다. 생성형 AI 도구의 자연어 인터페이스 덕분에 비기술자들도 데이터와 쉽게 상호작용하고 인사이트를 생성할 수 있게 되었다.

액센추어의 사례를 보면, 영업팀이 생성형 AI를 활용하여 제안서 작성 및 업데이트 워크플로우를 변환한 결과 생산성이 35% 향상되었다. 직원의 93%가 Microsoft 365 Copilot을 사용하여 작업을 더 빠르게 완료한다고 보고했으며, 애플리케이션 아키텍처에서는 AI 지원 개발자들이 코딩 속도를 높여 프로젝트 완료율을 증가시켰다.

'인지 디지털 브레인(Cognitive Digital Brain)'은 기업의 의사결정과 지속적 학습을 위한 중추 신경계 역할을 하게 될 것이다. 이는 지식, 모델, 에이전트, 아키텍처라는 네 가지 상호 연결된 계층으로 구성된다. 지식 계층에서는 지식 그래프와 벡터 데이터베이스가 기업 전체의 데이터를 수집하고 구조화하며, 모델 계층에서는 대규모 생성형 AI 모델이 데이터를 행동으로 변환하는 중요한 사고와 추론 작업을 수행한다. 에이전트 계층의 문제 해결사들은 최소한의 인간 입력으로 작업을 처리하고, 아키텍처 계층은 AI 실험을 기업 솔루션으로 전환하는 포괄적인 백본을 제공한다.

AI에 대한 신뢰는 새로운 화폐가 되고 있다. 액센추어가 세계 최대 기업들의 4,000명 이상의 임원을 대상으로 실시한 설문조사에 따르면, 77%가 AI의 진정한 이점은 신뢰의 기반 위에서만 달성할 수 있다고 믿으며, 81%는 조직의 신뢰 전략이 기술 전략과 병행하여 진화해야 한다고 응답했다. 마이크로소프트의 연구에 따르면 지식 근로자의 75%가 생성형 AI 도구를 사용하고 있다고 보고했으며, 이는 사용하는 기술에 대한 이해가 필수적임을 시사한다.

경계를 허무는 기술: 데이터 처리 시간 80% 단축과 출시 시간 40% 개선

클라우드 컴퓨팅, 사물인터넷, 데이터 분석, 5G 등의 기술은 이미 오래전부터 비즈니스와 IT 사이의 경계를 모호하게 만들고 있었다. 생성형 AI는 이러한 추세를 가속화하고 있으며, 이제 기술은 비즈니스의 일부로 완전히 통합되고 있다. 한 다국적 화학 회사의 고위 임원은 "우리는 더 이상 기술 부서와 비즈니스의 관계에 대해 이야기하지 않습니다. 그것은 하나입니다. 기술은 비즈니스의 일부이며, 자신을 비즈니스의 일부가 아니라고 생각하는 기술 그룹은 없습니다."라고 말했다.

IT 팀들은 이제 마케팅 기술('마테크'), 인사 기술('HR 테크'), 재무 기술('핀테크'), 규제 기술('레그 테크'), 판매 기술('세일즈 테크') 등의 통합 비즈니스-기술 팀을 구성하고 있다. 많은 액센추어 고객사들은 사일로화된 운영을 없애기 위해 '메가 프로세스'를 만들어 효율성과 규모를 촉진하고 있다. 이러한 통합은 데이터 처리 시간을 80% 단축하고 신제품 출시 시간을 40% 개선하는 놀라운 성과를 가져왔다.

기술적 유창성은 기술 중심 기업에 필수적이며, 이는 조직의 모든 구성원에게 적용된다. CEO와 이사회를 포함한 고위 경영진은 기술이 어떻게 조직에 가치를 제공할 수 있는지 깊이 이해하고 지속적으로 학습해야 한다. 액센추어 연구에 따르면 기술 중심 기업의 75%는 기술에 능통한 CEO와 기술에 능통한 C레벨을 모두 보유하고 있으며, 이들은 기술을 경쟁 우위로 사용하고 성장과 혁신을 위해 기술을 활용하며 기술 투자를 전략으로 이끄는 데 더 뛰어나다.

올바르고 연결된 데이터를 적절한 형식으로 갖추는 것은 새로운 기술의 성공을 위해 필수적이다. 모든 산업의 조직들은 디지털 코어와 비즈니스 성장과 가장 관련이 있는 중요 데이터에 초점을 맞춘 데이터 현대화를 최우선 비즈니스 과제로 추진하고 있다. 디지털 코어는 클라우드, 데이터, AI, 보안을 상호 운용 가능한 플랫폼 세트로 결합하여 성공적인 AI 전략의 핵심 기반 구성 요소가 된다.

인간과 AI의 협력 문화: 2주 작업을 30분으로 단축하는 혁신적 변화

생성형 AI가 업무 방식을 변화시키면서 기업 문화와 조직 구조도 변화하고 있다. 직원들 사이에서 AI가 일자리를 빼앗을 것이라는 우려가 퍼져 있으나, 실제로 AI는 대부분의 사람들이 하고 싶지 않은 업무 부분을 자동화하면서 전체적인 업무를 변화시키고 있다. 리더는 교육과 모범을 통해 생성형 AI를 정상화해야 하며, 이를 통해 우려를 줄이고 규모 있는 구현이 가능해질 것이다.

마이크로소프트의 전 부사장 겸 마케팅 최고 책임자는 "지표만 집중하기보다 바람직하지 않은 작업을 제거하는 데 집중하는 것이 중요합니다. 사람들은 자신의 일을 덜 지루하고 더 매력적으로 만드는 도구를 열정적으로 사용합니다. 직원들이 지루한 작업을 최소화하도록 권장하면 프로세스에 소요되는 시간을 2주에서 불과 30분으로 극적으로 줄일 수 있습니다. 궁극적으로 이러한 마인드셋은 효율성을 높이고 직무 만족도를 향상시킵니다."라고 말했다.

인간+기계 협업의 정상화와 AI 사용에 대한 긍정적 모델 구축을 위해서는 직원들이 기술을 효과적으로 사용할 수 있도록 교육하는 것이 중요하다. 마이크로소프트는 생성형 AI 기술인 코파일럿(Copilot)을 도입할 때 독일과 프랑스 팀의 피드백을 통해 직원들의 조기 참여, 투명한 소통, 피드백을 위한 교육 제공이 중요함을 보여주었다. 초기에 독일 팀은 AI가 개인 성과를 평가할 가능성에 대해 우려했으나, 열린 소통을 통해 이러한 우려를 해소하고 코파일럿에 대한 허용 단계를 도입했다. 프랑스도 이를 따라 AI 통합을 감독할 기술 위원회를 구성하여 도입, 피드백, 제품 개선을 촉진했다.

AI 도구가 제대로 활용되면 성장을 가속화할 수 있다. 2022년 이후, AI 성숙도가 가장 높은 기업들은 AI 성숙도가 가장 낮은 기업들보다 매년 3%포인트씩 더 빠르게 성장하고 있다. 이는 AI 도입 선두 기업들의 성장률이 4.7배 더 빠르다는 것을 의미한다. 아시아 태평양 지역의 한 주요 음료 회사는 액센추어와 협력하여 클라우드 컴퓨팅, AI, 데이터 분석 기술을 활용해 고객에 대한 360도 뷰를 구축했고, 이는 P1/P2 인시던트 생성을 46% 감소시키고 서비스 요청 빌드 노력을 33% 줄이는 결과를 가져왔다.

미래를 위한 전략적 행동 계획

기업의 CEO와 경영진은 새로운 비즈니스 기술 운영 모델의 기반을 마련하기 위한 전략적 행동을 취해야 한다. 액센추어의 자체 혁신과 전 세계 고객을 위한 2,000개 이상의 생성형 AI 프로젝트 경험을 바탕으로 다음과 같은 핵심 행동이 권장된다.

첫째, 기술을 통한 비즈니스 재구상이 필요하다. IT 전략의 모든 부분을 비즈니스 의제와 연결하고 비즈니스 성과와 연계된 명확한 지표를 수립해야 한다. AI, 데이터, 신기술이 조직 전체에 가치를 제공할 수 있는 특정 지점을 식별하고, 제품 중심 팀에 집중하여 수익 성장을 주도할 새로운 디지털 제품 포트폴리오를 구축해야 한다. 또한 디지털 코어의 일부로 보안 기술 플랫폼을 구현하고, 비즈니스에서 에이전트형 AI를 활용하는 방법을 탐색해야 한다.

둘째, 기술에 능통한 리더십과 인력으로 위계질서를 해소해야 한다. 비즈니스와 기술 전문성을 결합한 새로운 하이브리드 역할을 창출하고, 윤리적 프레임워크로 뒷받침된 AI 및 자동화 역량을 구축해야 한다. 이사회와 C레벨 수준에서 기술 유창성을 핵심 리더십 역량으로 확립하고, 기술 및 AI 문해력 프로그램을 개발해야 한다. 기술 주도 변환에 대한 명확한 경영진 소유권과 책임을 보장하고, 직원들에게 지속적인 학습 프로그램을 제공하며 새로운 기술 사용에 인센티브를 부여해야 한다.

셋째, 파트너십을 통한 AI 도입을 가속화해야 한다. 인재와 기술 격차를 채울 수 있는 보완적 역량을 갖춘 전략적 기술 파트너 생태계를 구축하고, 파트너 관계를 관리하고 가치를 측정할 명확한 파트너 프레임워크를 구현해야 한다. AI를 활용한 우선순위 이니셔티브 확장에 중점을 둔 플랫폼 팀을 구성하고, 핵심 파트너와 공동 혁신 프로그램을 구축하여 혁신을 신속하게 확장해야 한다.

FAQ

Q: 생성형 AI는 어떻게 IT 부서의 역할을 변화시키고 있나요?

A: 생성형 AI는 IT 부서가 단순한 기술 유지보수에서 벗어나 기업 전략의 핵심 조언자 역할로 진화하게 만들고 있습니다. 일상적인 IT 작업은 AI가 처리하게 되며, IT 전문가들은 데이터 및 클라우드 아키텍처 관리, AI 에이전트팀 감독 등 더 전략적인 업무에 집중할 수 있게 됩니다. 또한 일부 IT 전문가들은 비즈니스 부서로 이동하여 기술 혁신을 주도하고 있습니다.

Q: 인지 디지털 브레인(Cognitive Digital Brain)이란 무엇이며 왜 중요한가요?

A: 인지 디지털 브레인은 지식, 모델, 에이전트, 아키텍처 계층으로 구성된 시스템으로, 기업의 중추 신경계 역할을 합니다. 단순히 지시에 반응하는 것이 아니라 학습하고 개선하며 팀의 일부로 작동하는 AI 시스템입니다. 이는 초기 자동화 AI 솔루션에서 한 세대 진보한 기술로, 기업이 기술 주도적 기업을 설계, 배포, 관리하는 방식을 근본적으로 변화시키고 있습니다.

Q: 기업이 성공적인 AI 도입을 위해 필요한 주요 전략은 무엇인가요?

A: 성공적인 AI 도입을 위해서는 명확한 인재 로드맵과 신뢰 전략이 필수적입니다. 연구에 따르면 성공적으로 혁신하고 생성형 AI의 가치를 극대화하는 조직은 AI가 인력을 어떻게 재편할지 고려한 포괄적인 인재 로드맵을 보유할 가능성이 2.9배 높습니다. 또한 기술 및 비기술 역할 모두를 위한 맞춤형 AI 학습 경로를 갖출 가능성이 2.8배 더 높습니다. 신뢰 기반의 AI 구현과 투명한 소통, 직원 참여가 핵심 요소입니다.

해당 기사에서 인용한 리포트의 원문은 링크에서 확인할 수 있다.

이미지 출처: 액센추어

기사는 클로드와 챗GPT를 활용해 작성되었습니다.