Multi-agent AI – 21st century automation revolution

산업혁명에서 디지털 혁명까지: 전 세계 82%의 기업이 주목하는 자동화의 새 물결

캡제미니가 발표한 보고서에 따르면, 산업혁명 시대부터 현대에 이르기까지 자동화 기술은 경제 발전의 핵심 동력이었다. 영국의 18세기 말과 19세기 산업혁명, 미국의 제2차 세계대전 이후 경제 호황, 1960년대부터 시작된 한국의 산업화 모두 생산성과 효율성, 수익성을 높이기 위해 자동화 기술을 활용했다. 이 과정에서 경제와 사회는 급격한 변화를 겪었다.

현재 21세기에는 에이전틱 AI(Agentic AI)라는 새로운 형태의 자동화 물결이 경제 전반으로 확산되고 있다. 인공지능 에이전트(AI agent)는 환경과 상호작용하고 데이터를 수집하여 사전에 정의된 목표를 달성하기 위해 자율적으로 작업을 수행하는 소프트웨어 프로그램이다. 로봇 프로세스 자동화(RPA)와 머신러닝(ML) 같은 기존 기술에서 진화한 AI 에이전트는 변화하는 환경에서 인식하고, 추론하며, 행동하여 목표를 달성한다. 이들이 목표에 도달하는 방식은 대부분 스스로 결정한다.

AI 에이전트는 사용자와 상호작용하고 효과적으로 작업을 자율 수행하기 위해 다양한 첨단 기술을 활용한다. 대규모 언어 모델(LLM)은 종종 AI 에이전트와 사용자 간의 주요 인터페이스 역할을 한다. LLM은 주로 텍스트와 같은 방대한 데이터셋으로 훈련된 기초 모델의 한 유형이다. LLM은 패턴을 인식하여 지식을 인코딩함으로써 AI 에이전트가 추론하고, 의사결정을 내리며, 소통할 수 있게 한다. 에이전트는 자연어 처리(NLP)를 사용하여 인간과 유사한 텍스트나 음성 응답을 이해하고 생성할 수 있어 인간-AI 상호작용을 더 자연스럽고 효율적으로 만든다.

단순 자동화를 넘어선 협업 지능: 독립형 LLM과 멀티 에이전트 시스템의 근본적 차이

생성형 AI가 인기 현상으로 부상한 이후 많은 기업들이 자체 버전을 만들기 위해 서둘러 왔다. 이러한 AI는 특히 법률, 인사, 기술 분야에서 문서 검색, 분석, 상호작용을 위해 사용된다. 이러한 시스템들이 이전 시스템보다 개선되었지만, 여기서 멈추는 것은 AI의 잠재력을 과소평가하는 것이다. LLM은 점진적으로 발전하고 있어, 2년 전에는 검색 증강 생성(RAG)을 사용한 LLM이 요약을 생성했다면, 현재의 LLM은 향상된 검색 방법을 사용하여 더 정교한 출력을 생성할 수 있다.

독립형 LLM을 사용하는 것과 멀티 에이전트 시스템을 사용하는 것의 근본적인 차이점은 후자의 경우 개별 에이전트가 특정 작업(언어에만 국한되지 않는)에 특화되어 서로 협력할 수 있다는 점이다. 이들은 더 복잡한 작업을 실행하고 웹 검색, API, 전용 데이터베이스와 같은 외부 도구와 통합할 수 있다.

비용 절감을 넘어선 가치 창출: 2027년까지 82%의 기업이 AI 에이전트 도입 계획

캡제미니 리서치 인스티튜트의 조사에 따르면 조직의 82%가 2027년까지 AI 에이전트를 통합할 계획이다. 기업들이 에이전틱 AI로 전환하는 이유는 비용 절감만이 아니다. 영국 고객 만족도 조사에 따르면 고성능 조직의 특징은 "사람과 기술의 적절한 균형, 속도, 효율성, 개인적 관리의 결합"이다. 즉, 이상적인 소매 고객 서비스 경험은 인간의 공감과 기술적 효율성의 조합이다. 기업들은 에이전틱 AI를 사용하여 특정 고객층에 어필할 수 있는 커뮤니케이션 채널과 스타일을 추가함으로써 경쟁자보다 앞서 고객에게 제공하는 서비스를 개선하고 차별화할 수 있다.

기업들은 하이브리드 모델에서 AI 에이전트로 고객 및 IT 지원 서비스를 보강하여 품질 기준을 높이고 있다. 예를 들어, AI 에이전트는 과거 고객 상호작용 데이터를 기반으로 고객 문의에 대한 응답을 자동으로 작성할 수 있다. 더 야심찬 방식으로, 에이전트는 고객 문제의 소유권을 가질 수 있다. 이전에는 고객이 제품 환불을 요청하기 위해 챗봇에 연락했을 때 요청이 비표준이면 챗봇이 인간 고객 서비스 담당자에게 문제를 전달했다. 현재 AI 에이전트는 구매 증명서나 항목의 사진과 같은 추가 정보를 고객에게 요청하고, 문의를 분석하여 가능한 해결책을 제시할 수 있다. 상황이 예외를 만들기에 합당하다면 표준 절차를 단독으로 재정의할 수도 있다. 대부분 인간의 개입 없이 문제를 해결할 가능성이 높다.

자율성, 적응성, 협업 능력: 차세대 AI 에이전트의 6가지 핵심 특성

AI 에이전트 시스템은 전체적인 생산성, 서비스 품질, 고객 만족도 및 충성도를 높인다. 이를 위해서는 에이전트 간 및 에이전트-인간 간 교류를 프레임워크, 규칙, 위험 및 프로토콜에 따라 설계하는 것이 중요하다. 이전 시스템과 달리 AI 에이전트는 독특한 특성을 가지고 있다. 먼저, 자율성을 갖추고 있어 스스로 결정하고 행동할 수 있다. 또한 목표 지향적으로 명확한 목표를 추구하며, 맥락 인식 능력을 통해 관련 데이터를 사용하여 결정을 내린다. 데이터나 상호작용이 변화함에 따라 행동과 응답을 조정하는 적응성을 보여주며, 사용자 프롬프트 없이도 독립적으로 행동을 시작하는 선제적 행동 특성을 갖는다. 또한 인간 언어를 해석하고 응답하는 언어 인식 능력을 갖추고 있어 원활한 소통이 가능하다.

AI 에이전트를 구축하기 위해서는 여러 단계의 준비가 필요하다. 먼저 에이전트가 수행할 역할을 명확히 정의해야 한다. 그 다음으로 에이전트가 활용할 데이터를 식별하고 그 위치를 파악하는 과정이 필수적이다. 세 번째로 에이전트가 실행할 구체적인 작업이나 달성해야 할 목표를 정의해야 한다. 마지막으로 가드레일(guardrails)을 통해 에이전트의 행동 범위와 경계를 명확히 설정함으로써 안전하고 효과적인 운영을 보장해야 한다.

멀티 에이전트 시스템에서 각 에이전트는 자체 전문 역할을 가지면서 분산 구조에서 다른 에이전트와 협력한다. 이들은 예를 들어 보험 청구 처리와 같은 복잡한 작업을 공동으로 해결할 수 있다. 한 에이전트가 문서를 확인하고, 다른 에이전트가 정책 기준을 평가하며, 세 번째 에이전트가 지불을 처리하여 공동으로 작업을 완료한다.

데이터는 AI의 산소: 80%의 조직이 직면한 데이터 분산 문제와 해결책

에이전틱 AI 시스템의 시각적 표현은 전통적인 조직 프로세스 다이어그램과 매우 유사하다. 조직이 에이전트 시스템으로 전환함에 따라 비즈니스 전문가와 AI 전문가가 긴밀히 협력하여 이러한 프로세스를 효과적으로 설계하고 간소화해야 한다. 그러나 기존 시스템에 AI 에이전트를 통합하는 것은 신중하게 관리하지 않으면 복잡하고 파괴적이며 운영을 불안정하게 만들 수 있다.

실제 활동을 정확하게 반영하는 아키텍처를 구축하기 위해서는 먼저 비즈니스 운영에 대한 디지털 설명과 정의를 생성해야 한다. 그런 다음 명확하게 정의된 작업을 필요에 따라 AI 에이전트에 매핑할 수 있다. 이 접근 방식은 비즈니스에 사전 정의된 아키텍처를 부과하고 사람에게 원형을 부과하는 전통적인 방법과 대조된다.

데이터 분산은 AI 에이전트가 효과적으로 작동하는 것을 방해하므로 전체 에이전트 아키텍처의 기반으로 데이터를 최적화해야 한다. 조직의 80%는 데이터의 50% 이상을 하이브리드 및 멀티 클라우드 인프라에 저장하는데, 이는 통합, 가용성 및 관리를 복잡하게 만든다. 이는 AI 에이전트 배포 및 효과성에 영향을 미칠 수 있다.

에이전틱 AI 사용을 위한 데이터 최적화는 여러 단계로 이루어진다. 우선 데이터의 정확성, 관련성, 완전성 등을 확인하는 품질 평가가 필요하다. 그 다음으로 데이터의 안전한 사용과 관리를 위한 거버넌스, 관리 체계 및 보안 프로토콜을 설정해야 한다. 또한 AI 에이전트가 필요할 때 즉시 활용할 수 있도록 고품질 데이터의 실시간 또는 준실시간 가용성을 보장하는 파이프라인을 구축해야 한다. 시스템이 가동된 후에는 데이터 흐름과 품질을 지속적으로 모니터링하는 것이 중요하며, 마지막으로 피드백 루프를 통해 시스템의 성능을 평가하고 지속적으로 개선해 나가는 과정이 필수적이다.

산업을 변화시키는 AI 에이전트: 금융사기 탐지부터 임상시험 최적화까지

에이전틱 AI가 전 세계 경제에 도입됨에 따라 조직들은 생산성과 비용 절감 잠재력을 위해 프로세스를 검토하게 될 것이다. 이미 다양한 산업 분야에서 에이전틱 AI 도입이 시작되었으며, 그 전문성이 확산됨에 따라 더 많은 분야로 확장될 전망이다. 소비자 분야에서는 AI 기반 대화형 홈 어시스턴트 기기가 활발히 활용되고 있다. 이러한 기기들은 노약자를 감독하고, 집 안에서 분실된 물건을 찾아주며, 홈 보안을 지속적으로 모니터링하는 데 사용되고 있다. 제조업 분야에서는 스마트 카메라 기술을 기반으로 한 프로세스 모니터링 시스템이 도입되어 생산 현장의 성능을 향상시키고 안전 규정 준수를 개선하는 데 기여하고 있다.

생명 과학 분야에서도 에이전틱 AI의 활용이 두드러진다. 약물 발견 과정에서 AI 에이전트는 약물 메커니즘, 질병 진행 과정 및 임상 결과로부터 실행 가능한 통찰력을 추출하는 데 도움을 주고 있다. 또한 임상 시험 설계를 개선하고 시험 진행 중에도 실시간 데이터를 모니터링하여 필요한 조정을 즉시 수행할 수 있게 지원한다.

금융 서비스 영역에서는 사기 탐지 에이전트가 의심스러운 거래를 신속하게 식별하고 적절한 대응 조치를 자동으로 시작한다. 또한 재무 계획 및 투자 관리 서비스에서는 AI 에이전트가 고객별로 개인화된 투자 전략을 생성하고 고객 포트폴리오를 동적으로 모니터링하여 시장 변화에 빠르게 대응할 수 있게 한다.

소매 및 공급망 분야에서는 AI 기반 에이전트가 매장 내 진열대와 창고의 선반을 실시간으로 모니터링한다. 이 시스템은 재고유지단위(SKU) 코드를 활용하여 재고가 부족한 상품을 감지하고 자동으로 재고 보충 프로세스를 트리거하여 재고 관리의 효율성을 크게 향상시키고 있다.

자율성과 감독 사이의 균형: AI 에이전트의 '잘못된 행동'을 방지하는 거버넌스 전략

멀티 에이전트 시스템의 특성 중 하나는 특화된 역할, 분산 의사결정, 자율적 조정 및 협업이 가능하다는 점이다. 이러한 복잡성으로 인해 특별한 거버넌스 전략이 필요하다. 멀티 에이전트 시스템에서 에이전트는 독립적으로 행동하도록 "신뢰"받지만 동시에 지속적인 모니터링의 대상이 되며, 특정 상황에서는 인간의 감독이 선택적으로 사용된다.

AI 에이전트가 효과적으로 기능하기 위해서는 언제, 어떤 형태로 인간의 승인이 필요한지 명확하게 정의한 거버넌스 프레임워크가 필수적이다. 예를 들어, 에이전트의 초기 구성 단계에서는 인간의 승인과 검토가 필요하며, 중요한 의사결정을 내리는 워크플로의 핵심 지점에서도 인간의 개입이 요구된다. 또한 개인정보나 금융 데이터와 같은 민감한 데이터와 상호작용하기 전에도 인간의 승인이 필요할 수 있다. 마지막으로, 다른 에이전트나 인간 직원과 관련된 복잡한 작업을 수행할 때도 적절한 감독과 승인 절차가 필요하다.

인간의 개입은 AI 에이전트의 의사결정이 편향되거나, 부정확하거나, 회사 윤리를 위반하는 경우를 대비한 안전장치이다. 이러한 "잘못된 행동"은 고객과 직원의 신뢰를 손상시키고, 브랜드 평판에 부정적인 영향을 미치거나, 법적 위반을 초래할 수 있다. 편향, 공정성, 운영 성능 등에 대한 준수 및 실패 테스트가 필수적이다. 목표는 실패 지점을 확립하고 가드레일의 경계를 정의하는 것이다. 결과는 에이전트가 규정을 준수함을 보여주고 실패 시 비상 계획의 기초가 되어야 한다.

AI 에이전트의 자율성은 오류를 추적하고 근본 원인을 결정하는 것을 더 복잡하게 만든다. 오류가 있을 때, 이는 전통적인 IT 형태의 고장이 아니다. 복잡성, 정교함, 각 행동 인스턴스의 고유성으로 인해 문제를 복제하기가 더 어렵다. 효과적인 모니터링과 오류 추적을 위해 에이전트 활동을 체계적으로 기록해야 하며, 수행된 작업, 취해진 조치, 평가 메트릭 및 에이전트의 내부 상태를 캡처해야 한다. 이는 개념 증명 단계에서 정의 및 테스트되고 에이전트의 전체 수명 주기 동안 필요에 따라 업데이트된다.

FAQ

Q: 멀티 에이전트 AI는 기존의 생성형 AI와 어떤 차이가 있나요?

A: 멀티 에이전트 AI는 개별 에이전트가 특정 작업에 특화되어 서로 협력하는 시스템입니다. 기존의 생성형 AI는 주로 단일 시스템으로 작동하지만, 멀티 에이전트 시스템에서는 각 에이전트가 전문적인 역할을 맡고 더 복잡한 작업을 공동으로 해결할 수 있습니다. 또한 웹 검색, API, 데이터베이스와 같은 외부 도구와의 통합이 가능하여 더 다양한 업무를 처리할 수 있습니다.

Q: 기업들이 에이전틱 AI를 도입하는 주된 이유는 무엇인가요?

A: 기업들이 에이전틱 AI를 도입하는 이유는 단순한 비용 절감을 넘어 고객 서비스 품질 향상, 업무 효율성 증대, 그리고 경쟁사와의 차별화를 위함입니다. 캡제미니 리서치 인스티튜트에 따르면 조직의 82%가 2027년까지 AI 에이전트를 통합할 계획이라고 합니다. 이는 AI 에이전트가 생산성, 서비스 품질, 고객 만족도를 높이고 인간과 기술의 적절한 균형을 제공할 수 있기 때문입니다.

Q: 에이전틱 AI 도입 시 기업이 고려해야 할 중요한 요소는 무엇인가요?

A: 에이전틱 AI 도입 시 기업은 다음 요소들을 고려해야 합니다: 첫째, 적절한 데이터 품질과 관리 시스템 구축. 둘째, 명확한 거버넌스 프레임워크 수립과, 인간의 감독이 필요한 상황 정의. 셋째, 편향, 공정성, 운영 성능에 대한 철저한 테스트와 가드레일 설정. 또한 에이전트 활동을 체계적으로 기록하고 모니터링하는 시스템 구축이 필요합니다. 무엇보다 기존 프로세스를 면밀히 분석하여 단순 자동화가 적합한 작업과 에이전틱 AI가 필요한 작업을 구분하는 것이 중요합니다.

해당 기사에서 인용한 리포트 원문은 링크에서 확인할 수 있다.

이미지 출처: 캡제미니

기사는 클로드와 챗GPT를 활용해 작성되었습니다.