The consumer of next gen data infrastructures is... AI

ChatGPT 등장 이후 60%의 기업, AI 기반 비즈니스 애플리케이션 혁신 추진 중

2022년 말 ChatGPT가 등장한 이후, 전 세계 대부분의 기업들은 생성형 AI 활용을 우선순위로 삼고 있다. 오늘날 이러한 강력한 기술은 더 나은 개인화된 고객 서비스 제공, 온라인 쇼핑객을 위한 추천 시스템, 비즈니스 분석가를 위한 이상 탐지 지원 등을 통해 비즈니스 애플리케이션에 혁명을 일으키고 있다. 그러나 이는 기업들에게 큰 도전 과제를 안겨주고 있다. 현재의 비즈니스 애플리케이션들이 AI를 비즈니스 사용자로 수용하도록 설계되지 않았기 때문이다.

AI의 경쟁 우위를 완전히 실현하기 위해서는 기업들은 데이터 정확성을 최적화하고 구조화된 데이터와 비구조화된 데이터를 통합 데이터베이스에 통합하는 AI 네이티브 비즈니스 애플리케이션을 재구축해야 한다. 이는 상당한 과제이지만, AI 자체를 배포하는 것이 이러한 전환을 용이하게 할 수 있다.

AI 활용 데이터 마스터 기업, 경쟁사 대비 39% 높은 마진과 42% 빠른 성장세 기록

많은 기업들이 캡제미니(Capgemini)가 말하는 '데이터 마스터(Data Masters)'가 되기 위해 큰 진전을 이루고 있으며, 이미 그 혜택을 누리고 있다. 여기서 '데이터 마스터'란 데이터를 단순히 수집하고 저장하는 것을 넘어, 고급 분석과 AI 기술을 활용해 데이터에서 실질적인 비즈니스 가치를 창출하고 데이터 기반 의사결정을 조직 문화로 정착시킨 기업을 의미한다.

캡제미니 리서치 연구소는 2024년 보고서 '데이터 주도 기업: 데이터 마스터리로 가는 길(Data-powered enterprises: The path to data mastery)'에서 2020년 이전 보고서 발표 이후 상당한 진전이 있었음을 확인했다. 예를 들어, 조사된 경영진의 65%가 자사가 활성화된 데이터를 활용하여 새로운 제품이나 서비스를 도입하고 있다고 답했는데, 이는 2020년 42%에서 크게 증가한 수치다. 또한 66%는 데이터를 활용하여 새로운 비즈니스 모델을 출시하고 있다고 보고했으며, 이는 4년 전 39%에 비해 상승한 것이다.

캡제미니 리서치 연구소는 또한 데이터 주도 기업의 비즈니스 기회 이점이 계속 증가하고 있다고 언급했다. 보고서 작성 과정에서 연구소는 데이터를 마스터한 기업들이 경쟁사들보다 현저히 우수한 성과를 보이고 있다고 판단했다. 이들 기업은 평균적으로 39% 더 높은 이윤, 42% 더 나은 성장률, 그리고 28% 더 나은 이자 및 세금 공제 전 이익(EBIT)을 달성했다.

생성형 AI 대규모 도입, 75%의 데이터 임원이 여전히 주요 도전과제로 꼽아

캡제미니의 보고서에 따르면, 4년 전에 직면했던 많은 데이터 마스터리 과제들이 기업들이 생성형 AI의 힘을 활용하는 것과 같은 새로운 우선순위를 해결하기 위해 전환함에 따라 덜 걱정스러워졌다. 여기서도 진전이 이루어지고 있다. 예를 들어, 조직의 60%가 기업 데이터를 기반으로 생성형 AI 파일럿을 구현하거나 초기 개념 증명 생성형 AI 이니셔티브를 시작했다고 밝혔다.

그러나 데이터 임원의 75%는 생성형 AI의 대규모 배포가 여전히 주요 과제라고 인정했다. 단 42%만이 생성형 AI 모델을 훈련시키는 데 필요한 데이터를 보유하고 있다고 답했으며, 40%만이 기업 문화, 윤리적 가드레일, 거버넌스 메커니즘, 법적 및 규제 프레임워크와 같은 필요한 비기술적 기반을 개발하고 배포했다고 보고했다.

데이터 가치의 변화—일어난 일을 보고하는 데서 발생할 수 있는 일을 추진하는 데까지—에 대응할 필요성이 점점 더 시급해지고 있다. AI가 이러한 변화를 주도하고 있으며, 기술은 두 가지 기술 덕분에 사용하기 더 쉬워지고 있다:

1. 대규모 언어 모델(Large Language Models)은 개발자가 챗봇과 에이전트와 같은 솔루션을 만들 수 있게 해주는 대화형 자연어 인터페이스를 제공한다.
2. 벡터 데이터베이스(vector databases)는 시스템이 비구조화된 데이터를 인코딩한 다음 유사성을 비교할 수 있게 한다. 이미지, 오디오, 비디오를 포함한 이 비구조화된 데이터는 오늘날 세계 정보의 약 80%를 차지한다.

이 두 기술은 AI를 데이터 과학자들만의 전유물에서 벗어나게 했다. 오늘날 전문 지식이 거의 없는 애플리케이션 개발자들도 오픈 소스 호스팅과 모델을 활용하고 API를 사용하여 강력한 AI 인프라에 액세스함으로써 실행 가능한 AI 기반 솔루션을 구축할 수 있다.

C-레벨 임원 59%, 기업 데이터가 사일로에 갇혀 혁신 저해 인정

이러한 새로운 애플리케이션은 사용 가능한 데이터만큼 좋을 뿐이며, 많은 기업에게 이는 이제 중요한 장벽이 되고 있다. 대부분의 기업들은 멀티 클라우드 개발자 데이터 플랫폼 제공업체인 몽고DB(MongoDB)가 백오피스 AI가 아닌 운영 AI를 지원하는 데 필요한 데이터 시스템을 갖추고 있지 않다.

데이터 관리는 조사된 개발자의 75%가 AI 기반 애플리케이션을 구축하는 데 가장 어려운 부분으로 꼽았다. 한편, CIO의 87%는 AI에 데이터를 가져온 다음 이를 활용하는 능력이 해결해야 할 가장 큰 장애물이라고 인정했다.

이 도전의 원인은 명확하다: C-레벨 임원의 59%가 자사의 기업 데이터가 사일로에 다소 또는 완전히 분산되어 있어 조직 전체에서 접근할 수 없다고 고백했다. 이러한 응집력 부족은 기업의 혁신 능력을 제한하여 기회 손실로 이어졌다. 최첨단 애플리케이션 구축에 집중하는 대신, 팀들은 서로 다른 시스템을 동기화하고 데이터 복잡성을 관리하는 데 상당한 시간과 자원을 투입하고 있다.

몽고DB는 부가 기술의 필요성을 제거함으로써 데이터 아키텍처를 단순화하고 비용을 절감한다. 시맨틱 및 유사성 검색, 지리공간 검색, 스트림 처리, 시계열 컬렉션 등 다양한 사용 사례에 대한 기본 지원을 통해 몽고DB는 작업당 더 낮은 비용으로 더 많은 가치를 제공한다.

통합 데이터 플랫폼 4가지 핵심 요소: 운영-벡터 데이터 통합이 필수

운영 데이터와 AI 인프라를 통합 데이터베이스에 결합하는 것이 이를 효과적으로 수행하는 방법이다. 캡제미니와 몽고DB의 의견에 따르면, 이는 더 이상 선택 사항이 아니라 현대 비즈니스 요구에 맞게 확장하고 적응할 수 있는 AI 기반 애플리케이션을 구축하는 데 필수적이다. 올바른 데이터 플랫폼이 필수적이며, 의사 결정자는 이 플랫폼을 선택할 때 네 가지 조언을 받아들여야 한다.

첫째, 운영 데이터베이스와 벡터 데이터베이스를 분리하지 말라. 동일한 데이터 저장소에 유지하면 기업은 여러 시스템 간에 데이터를 동기화할 필요가 없다. 또한 개발자가 여러 시스템을 쿼리한 다음 애플리케이션 내에서 결과를 통합할 필요가 없다.

두 번째, 통합 쿼리 언어를 지원하는 데이터 플랫폼을 선택하라. 이를 통해 개발자는 지리공간 데이터, 구조화된 데이터, 벡터 데이터와 같은 다양한 워크로드를 쉽게 활용하여 매력적인 애플리케이션을 만들 수 있다.

세 번째, 다양한 워크로드 유형이 하드웨어에 미치는 요구사항을 완화하기 위해 분산 및 서버리스 시스템을 선택하라.

네 번째, AI 애플리케이션을 비즈니스 운영 모델에 맞추어라. AI의 불분명한 비즈니스 소유권은 바람직하지 않다.

이상적인 솔루션은 단일 논리적 데이터베이스이지만, 물리적으로 분산되어 있고 각 유형의 워크로드에 특화된 하드웨어를 배포하는 것이다.

생성형 AI로 레거시 시스템 전환: 캡제미니의 자동화 재구축 기술 사례

AI에 최적화하기 위해 애플리케이션을 재설계하는 것은 엄청난 작업이다. 조직들은 일반적으로 과거에는 잘 작동했지만 AI 세계에 맞게 설계되지 않은 상당한 레거시 시스템과 설치된 대량의 애플리케이션을 보유하고 있다.

다행히도 인공지능이 이를 도울 수 있다. 예를 들어, 캡제미니는 생성형 AI를 사용하여 클라이언트의 시스템이 어떻게 작동하는지 배우고 데이터 마이그레이션 스크립트를 정의했다. 이를 통해 캡제미니는 클라이언트의 애플리케이션을 몽고DB에서 새로운 목적지로 재구축할 수 있었다. 이는 단순히 트랜잭션만 고려한 레거시 데이터베이스에서 AI 배포 및 관리를 지원하는 새로운 아키텍처로 시스템을 변환했다.

이 솔루션은 캡제미니의 증강 소프트웨어 제품 엔지니어링 액셀러레이터(Augmented Software Product Engineering Accelerator)를 활용한다. 이는 애플리케이션을 학습, 테스트, 검증 및 마이그레이션하기 위한 에이전틱 프레임워크이다. 이 액셀러레이터는 코드를 번역하는 대신 프로그램을 한 아키텍처에서 다른 아키텍처로 실제로 이동시킨다.

에너지 기업 사례: AI 기반 양식 작성으로 12만 현장 작업자 안전성과 생산성 향상

올바른 데이터 플랫폼을 사용하면 기업은 AI를 활용하여 운영을 개선하는 새로운 애플리케이션을 만들 수 있다. 최근 실제 사례에서 몽고DB와 캡제미니는 글로벌 에너지 회사가 생성형 AI를 활용하기 위해 필수 애플리케이션을 변환하도록 도왔다.

이 회사는 위험한 환경에서 현장 작업자를 고용하고 있다. 과거에는 이 작업자들이 현장에서 수동으로 양식을 작성해야 했다. 일부 경우에는 약 75개의 필드가 있는 양식이 포함되었다. 이는 직원 안전이 가장 중요한 석유 시추선과 같은 곳에서 작업할 때 문제를 일으키는 복잡한 프로세스였다.

캡제미니와 몽고DB는 생성형 AI와 자연어 처리를 통합하도록 애플리케이션을 재구축했다. 새로운 솔루션은 운영 데이터베이스와 벡터 스토어를 결합한 백엔드를 사용하며 Azure Cloud를 통해 배포되었다. 오늘날, 작업자들은 수동으로 양식을 작성하는 대신 대화형 인터페이스를 통해 필요한 정보를 제공한다. 이는 매우 성공적이어서 고객사는 전 세계 120,000명의 작업자에게 애플리케이션을 배포했으며, 이로 인해 안전성과 생산성이 크게 향상되었다.

FAQ

Q: 기업이 AI 네이티브 애플리케이션으로 전환해야 하는 이유는 무엇인가요?

A: 기업이 AI의 완전한 경쟁 우위를 실현하려면 기존 애플리케이션이 AI를 비즈니스 사용자로 수용하도록 재구축해야 합니다. AI 네이티브 애플리케이션은 데이터 정확성을 최적화하고 구조화 및 비구조화 데이터를 통합 데이터베이스에 통합하여 더 나은 고객 서비스, 추천 시스템, 이상 탐지 등을 가능하게 합니다.

Q: 데이터 사일로가 기업 혁신에 어떤 영향을 미치나요?

A: 데이터 사일로는 조직 전체에서 데이터에 접근하기 어렵게 만듭니다. C-레벨 임원의 59%가 자사 데이터가 사일로에 분산되어 있다고 인정했습니다. 이러한 응집력 부족으로 팀들은 최첨단 애플리케이션 구축보다 서로 다른 시스템을 동기화하고 데이터 복잡성을 관리하는 데 시간과 자원을 소비하게 됩니다.

Q: AI가 애플리케이션 재구축 과정에서 어떻게 도움이 될 수 있나요?

A: AI, 특히 생성형 AI는 기존 시스템의 작동 방식을 학습하고 데이터 마이그레이션 스크립트를 정의하는 데 도움을 줄 수 있습니다. 캡제미니의 증강 소프트웨어 제품 엔지니어링 액셀러레이터와 같은 도구는 애플리케이션을 학습, 테스트, 검증 및 한 아키텍처에서 다른 아키텍처로 마이그레이션하는 에이전틱 프레임워크를 제공합니다.

해당 리포트의 원문은 링크에서 확인할 수 있다.

기사는 클로드와 챗GPT를 활용해 작성되었습니다.