AI 도구를 쓴 개발자들은 자신이 20% 빨라졌다고 답했지만, 실제 측정에서는 완료시간이 19% 늘어 있었다. 한국 딜로이트 그룹이 2026년 9월 발표한 보고서 ‘AI 에이전트 시대, PI의 핵심 산출물은 To-Be 프로세스가 아니라 운영모델이다’는 이런 어긋남이 개인의 착각이 아니라 회사가 무엇을 측정하고 무엇을 설계했는가의 문제라고 진단한다. 보고서가 말하는 운영모델(Operating Model)이란 전략을 실제 일이 수행되는 방식으로 옮기는 통합 시스템, 즉 누가 어떤 권한으로 판단하고 어디서 책임지는지까지 정해 둔 일하는 구조를 말한다. AI를 도입한 조직과 성과가 바뀐 조직이 갈리는 지점이 바로 여기다.

AI 확산 속도와 운영모델 전환 속도의 간극

AI 사용 기반을 넓히는 속도와 운영모델의 구조적 가치가 실현되는 속도는 다르다. 보고서는 이 간극을 보여주는 사례로 골드만삭스(Goldman Sachs)와 호주 커먼웰스은행(CBA)을 나란히 놓는다. 골드만삭스는 2025년 ‘One Goldman Sachs 3.0’을 출범시키고 이를 AI가 추진하는 새로운 운영모델로 정의했다. 고객 온보딩, 고객확인제도(KYC), 벤더 관리, 규제 보고, 여신, 전사 리스크 관리와 영업 지원 등 조직을 가로지르는 여섯 개 업무영역을 우선 대상으로 정하고 ‘GS AI Assistant’를 포함한 AI 도구를 조직 전반으로 확산해 왔다. 그런데 2026년 2분기 실적발표에서 경영진은 AI와 전사 프로세스 재설계가 생산성과 확장성에 기여하고 있지만 아직 비용 기반에 구조적 변화가 발생했다고 말할 단계는 아니라고 설명했다.

반대 방향의 사례가 CBA다. CBA는 2025년 AI 기반 음성봇 도입을 근거로 고객서비스 45개 직무를 감축하겠다고 발표했다가 몇 주 뒤 결정을 철회했다. 호주 금융노조(FSU)에 따르면 현장에서는 오히려 콜 물량이 증가했고, 초과근무와 팀 리더의 전화 응대가 필요했다. CBA는 검토 과정에서 수요 증가가 지속될 가능성을 충분히 고려하지 못했다고 인정하고 대상 직원들에게 잔류 또는 자발적 퇴직 선택지를 제공했다. 자동화된 단순 문의가 줄어들면 사람에게 남는 업무는 더 복잡하고, 더 길며, 감정적 대응과 예외 판단을 더 많이 요구할 수 있다. 전체 물량의 감소만 보고 인력을 산정하면 다른 담당자에게 넘어가는 비율과 재작업, 남은 업무의 난이도와 몰리는 시간대의 수요를 놓치게 된다.

두 사례의 방향은 정반대지만 결론은 같다. 도입은 전환의 조건이지만 그 자체가 전환의 완성은 아니라는 것이다. 보고서는 기업의 AI전환(AI Transformation, 이하 AX) 성패가 AI 도입 규모보다 업무 방식과 조직, 인력, 데이터, 통제, 성과책임을 얼마나 유기적으로 재설계했는가에 달려 있다고 정리한다.

예외 처리시간 75% 단축, JP모건체이스가 찾은 승부처

파일럿의 성패는 정상 경로에서 갈리지 않는다. 정상 경로는 어느 벤더의 데모에서도 매끄럽게 흐르기 때문이다. 문제는 서류가 빠졌거나 정보가 서로 어긋나거나, 금액이 크거나 민원이 걸렸거나, 규제상 별도 확인이 필요한 예외 사례다. 여기서 예외경로란 AI가 스스로 판단을 끝내지 못하고 사람에게 넘겨야 하는 경로를 뜻한다. 보고서는 이 지점을 잘 보여주는 사례로 알리안츠(Allianz)와 JP모건체이스(JP Morgan Chase)를 든다.

알리안츠의 프로젝트 니모(Project Nemo)는 자연재해로 발생한 단순 식품손해 청구에 일곱 개의 전문 AI 에이전트를 배치했다. 이들은 보장 확인, 기상정보 검증, 사기징후 점검, 지급액 산정과 감사 요약을 수행한다. 그러나 최종 지급 결정은 사람이 내린다. 감사 에이전트가 만든 요약은 사람이 책임 있게 결정할 수 있도록 만든 통제 산출물이다.

JP모건체이스의 기업투자은행(CIB) 결제 부문은 최근 몇 년간 거래 물량이 50% 이상 증가하는 동안 AI 모델을 활용해 수작업 예외 건수를 50% 이상 줄이고 예외 처리시간을 약 75% 단축했다. 기업투자은행 전체 기준으로는 고객확인제도 단위원가가 2022년 대비 약 40% 감소했다. 거래가 절반 넘게 늘어나는 동안 사람이 손으로 처리해야 할 예외 건수는 오히려 절반 아래로 내려갔다는 뜻이다. 성과의 중심이 정상 경로의 자동화율이 아니라 예외 건수, 예외 처리시간, 단위원가였다는 점이 핵심이다.

앞서 CBA 사례가 자동화 이후의 잔존업무와 인력구조를 함께 보지 않을 때 생기는 문제를 보여줬다면, 알리안츠와 JP모건체이스는 예외를 통제와 성과관리의 핵심 단위로 다루는 접근을 보여준다.

권한, 결정, 증적, 예외로 나누는 AI 에이전트 4대 통제

금융회사에서 AI 에이전트 설계의 관건은 자율성을 높일지 낮출지가 아니라, 업무 성격과 위험도에 따라 권한과 결정, 증적, 예외를 분리해 설계하는 문제다. 보고서는 이를 네 가지 통제로 정리한다. 권한 통제는 에이전트가 조회, 추천, 실행, 대외 발신 중 어디까지 수행할 수 있는지를 정한다. 결정 통제는 어떤 판단에 사람의 사전승인이나 사후검토가 필요하고, 어떤 판단은 아예 자동화하지 말아야 하는지를 가른다. 증적 통제는 어떤 데이터와 규칙, 도구 호출과 판단 근거를 남겨야 결과를 재현할 수 있는지를 정한다. 예외 통제는 신뢰도 저하나 정보 충돌, 민감고객과 고액 거래, 이상징후를 누구에게 이관할지를 정한다.

네 번째인 예외 통제에는 자원 임계치, 즉 에이전트가 한 건에 쓸 수 있는 시간과 자원의 상한이라는 별도 항목이 붙는다. 판단이 정확하고 권한을 넘지 않았으며 근거 로그까지 남긴 에이전트도, 종료 조건이 없으면 같은 작업을 무한히 반복할 수 있기 때문이다. 사람의 업무에는 근무시간이라는 자연적 상한이 있지만 에이전트에는 없다. 그래서 반복 횟수와 실행시간, 건당 자원 예산의 상한은 설계 시점에 명시적으로 부여해야 하는 통제이며, 나머지 세 통제가 모두 작동해도 이것이 없으면 에이전트는 멈출 줄 모른다.

이 네 가지 통제는 규제 대응을 위한 사후 문서가 아니라 법적 응답 능력이다. 2024년 3월 시행된 개인정보 보호법 제37조의2는 완전히 자동화된 시스템으로 개인정보를 처리해 내려지는 결정이 정보주체의 권리나 의무에 중대한 영향을 미치는 경우, 정보주체가 그 결정을 거부하거나 설명을 요구할 수 있도록 했다. 정보주체의 동의를 받았거나 계약의 체결과 이행에 필요한 경우에는 거부권이 제한될 수 있지만, 설명을 요구할 권리는 남는다. 보험금 부지급이나 인수 거절을 완전히 자동화된 시스템으로 결정했다면, 회사는 법이 정한 범위에서 어떤 데이터와 기준, 절차에 근거한 결정인지 설명하고 정보주체의 요구가 있을 경우 사람의 개입에 의한 재처리 등 필요한 조치를 할 수 있어야 한다. 보고서는 이 대목을 “설명할 수 없는 자동화는, 고객의 요구 한 번에 사람이 처음부터 다시 처리해야 하는 자동화다”라는 한 문장으로 요약한다.

증적 통제가 실제로 작동하려면 데이터를 보는 관점부터 달라져야 한다. AI전환에 맞춰 다시 설계하는 PI, 즉 AX형 PI에서 데이터는 모델에 공급하는 재료를 넘어 에이전트가 실행 시점에 검색하고 적용하며 결과를 설명할 수 있는 운영 지식 자산이 된다. 딜로이트가 국내에서 수행한 AI 구축 프로젝트들의 공통된 교훈은 에이전트 답변의 품질이 모델이 아니라 전처리된 데이터의 품질에서 갈렸다는 것이다. 보험금 청구 서류처럼 손으로 쓴 글씨와 직인, 표가 섞인 문서는 일반 광학문자인식(OCR)만으로는 에이전트가 읽지 못해 이미지를 이해하는 비전 언어 모델(Vision Language Model, VLM)을 병행해야 했고, 도메인 용어사전이 없으면 검색 정확도가 떨어졌다. 한 세무 AI 프로젝트에서는 약 3만 건의 도메인 데이터로 문서를 숫자로 바꿔 저장하는 임베딩 모델을 추가 학습한 뒤에야 검색 지표가 15%p 개선됐다. 에이전트가 서류를 읽지 못한 건은 자동화되는 것이 아니라 예외경로로 넘어간다.

체감 20% 단축과 실측 19% 지연, METR 실험이 남긴 경고

AI가 만든 시간은 그 자체로 가치가 아니라 재배치해야 할 업무용량이다. 이 구분이 왜 중요한지를 보여주는 실험이 있다. AI 모델의 성능과 위험을 연구하는 미국 비영리 연구기관 METR(Model Evaluation & Threat Research)이 2025년 수행한 무작위 대조실험에서, 경험 많은 오픈소스 개발자 16명이 246개 과제를 수행했다. AI 도구를 사용했을 때 완료시간은 평균 19% 늘었지만 참여자들은 자신이 20% 빨라졌다고 생각했다. 체감과 실측이 서로 반대 방향으로 약 39%포인트 벌어진 셈이다. 자기 손으로 개발한 사람조차 자신의 속도를 이만큼 잘못 기억한다면, 부서 단위 절감시간 취합 보고가 실제 손익과 얼마나 떨어져 있을지는 짐작하기 어렵지 않다.

물론 이 결과를 모든 직무와 최신 에이전트에 일반화할 수는 없다. METR 자신도 2026년 후속 연구에서 에이전트 대기 중 멀티태스킹과 참여자 선택 등이 기존 시간측정 방식에 편향을 만들 수 있다고 보고 실험 설계를 변경하고 있다. 다만 이 업데이트는 앞선 결과를 무효화한다기보다 AI 효과 측정이 얼마나 어려운지를 보여준다. 그래서 보고서는 AI전환 시대의 PI라면 착수 전에 비교 기준이 될 사전 측정치를 확보하고 시스템 로그와 품질, 예외와 가치지표로 효과를 검증해야 한다고 말한다.

앞서간 금융회사들은 이 때문에 도입과 전환을 구분해 관리한다. 싱가포르개발은행(DBS)은 2025년 2,000개 이상의 AI 모델을 430개 이상의 활용사례에 적용해 약 10억 싱가포르 달러의 경제적 가치를 창출했다고 밝히면서, 동시에 전사적 영향을 만드는 운영모델 전환(Operating Model Transformation, OMT) 건수를 연간 경영목표로 따로 관리했다. 2025년 목표는 6건이었고 이를 초과해 9건을 완료했다. 활용사례 수와 경제적 가치 옆에 운영모델을 몇 개 바꿨는지를 별도 목표로 세워 둔 셈이다. 뉴욕멜론은행(BNY)은 2025년 기준 160개의 기업용 AI 솔루션과 134개의 ‘디지털 직원’을 운영하고 17만 1,000시간의 AI 학습을 제공했으며, 직원의 절반 가까이가 에이전트 구축에 참여하도록 지원하고 있다.

측정 항목도 바뀌어야 한다. 라이선스 수, 유스케이스 수, 에이전트 수, 자동화율은 성과지표가 아니라 도입지표다. 보고서가 제시하는 네 가지 지표는 성격이 다르다. 전환 지표는 AI 적용 건수가 아니라 재설계가 완료된 엔드투엔드(End-to-End) 여정과 운영모델의 수를 센다. 여기서 엔드투엔드란 고객의 목적이 완성될 때까지의 전체 여정을 뜻하며, 부서별로 잘린 업무 단위가 아니다. 예외 지표는 물량 단위당 이관과 재작업, 오류 건수, 인간 개입률과 예외 처리 리드타임을 본다. 통제 지표는 사람의 승인과 기각률, 판단근거 기록률, 규제와 정책 준수, 사고 발생률을 본다. 가치 지표는 확보된 용량의 재배치율과 고객경험, 수익과 리스크 개선, 실제 손익 실현을 본다. 자기 조직의 AI 성과 보고서에 도입한 도구와 자동화율만 적혀 있고 예외와 통제, 가치에 해당하는 숫자가 없다면, 아직 도입을 측정하고 있는 것이지 전환을 측정하고 있는 것이 아니다.

PI의 산출물이 확정된 문서에서 진화하는 운영모델로 이동한 이유

보고서의 핵심 주장은 PI(Process Innovation), 즉 프로세스 혁신의 산출물이 바뀌었다는 것이다. 전통적 PI가 현행(As-Is) 프로세스의 문제와 병목을 찾아 목표(To-Be) 프로세스를 확정하는 활동이었다면, AX형 PI는 전략과 고객가치에서 출발해 업무 수행 주체와 책임체계를 다시 구성하는 활동이다. 분석 단위는 부서별 프로세스에서 엔드투엔드 고객 여정으로, 업무 주체도 사람 중심에서, 사람과 사람을 옆에서 돕는 보조형 AI, 스스로 실행하는 에이전트, 기존 시스템 사이의 역할 배분으로 옮겨간다. 성과 기준도 처리시간과 자동화율, 절감공수에서 예외율과 고객가치, 실현가치, 리스크로 바뀐다.

보고서는 여기에 에이전틱 목표 운영모델(Agentic Target Operating Model)이라는 이름을 붙였다. 딜로이트의 운영모델 전환 관점을 AI 에이전트 시대의 PI에 적용한 개념적 표현으로, 역할과 책임, 조직과 인력 역량, 데이터와 기술, 권한과 통제, KPI와 가치실현이라는 다섯 가지를 함께 설계한 목표 운영모델을 뜻한다. 확정하면 끝나는 문서가 아니라 모델과 데이터, 규제와 고객행동이 함께 변하는 환경에서 지속적으로 학습하고 조정되는 구조라는 점이 기존 To-Be 프로세스와의 결정적 차이다.

그림1. 에이전틱 목표 운영모델을 구성하는 다섯 가지 설계 요소 (자료: 딜로이트 인사이트, ‘AI 에이전트 시대, PI의 핵심 산출물은 To-Be 프로세스가 아니라 운영모델이다’ 9쪽)

국내 금융회사가 지금 점검할 수 있는 질문은 세 가지다. 몇 개의 에이전트를 배치했는가가 아니라 몇 개의 운영모델을 전환했는가를 대시보드에 올려두고 있는가. 에이전트가 판단을 멈추고 사람에게 넘겨야 하는 조건인 신뢰도 미달과 정보 충돌, 고액과 민감 건, 규제상 별도 확인이 필요한 건이 정의되어 있고 그 이관이 실제로 작동하도록 받는 조직과 화면, 권한, 처리 시한까지 지정되어 있는가. AI가 만들어낸 시간을 인력 재배치와 재교육, 성과책임의 변화와 손익으로 전환할 계획이 세워져 있는가. 정상 처리율만 높이고 예외경로를 비워두면 병목은 사라지는 것이 아니라 뒤로 밀린다는 것이 보고서의 지적이다.

결승선이 아니라 출발선, 남은 질문

보고서가 마지막에 남긴 문장은 짧다. 전 직원이 AI를 쓰고 있다는 보고는 좋은 소식이지만 그것은 결승선이 아니라 출발선이라는 것이다. 다만 이 진단을 그대로 받아들이기 전에 확인해 둘 것이 몇 가지 있다. 보고서 스스로 밝혔듯이 인용된 정량 수치는 2026년 9월 1일 현재 공개된 원문 기준이며, 기업별 경제적 가치와 비용절감은 정의가 달라 직접 비교하지 않았다. 딜로이트 내부 프로젝트 수치는 고객사를 특정하지 않았고 외부 검증된 통계가 아니라는 단서도 함께 달려 있다.

CBA 사례를 인력 감축이 무조건 실패한다는 근거로 읽는 것도 성급할 수 있다. 보고서가 지적한 것은 자동화 효과를 검증하기 전에 인력부터 바꾸면 되돌림이 발생한다는 순서의 문제이지, 자동화가 인력구조에 영향을 주지 않는다는 뜻은 아니다. 골드만삭스가 아직 비용 기반의 구조적 변화를 말할 단계가 아니라고 한 것도 실패의 고백이 아니라 프로세스와 인력, 조직, 성과책임의 재정렬이 손익으로 이어지기까지 시간이 걸린다는 설명에 가깝다. 결국 판단의 근거가 되는 것은 몇 년 뒤 이들 회사의 비용 기반이 실제로 어떻게 움직이는가이며, 그 결과는 두고 볼 필요가 있다. 지금 확실한 것은 AI를 기존 프로세스에 더하기만 해서는 일부 업무가 빨라질 뿐이고, 불필요한 업무를 제거하지 않고 사람의 책임과 에이전트의 권한을 재설계하지 않으면 AI는 또 하나의 시스템으로 남는다는 보고서의 경고다.

FAQ( ※ 이 FAQ는 본지가 리포트를 참고해 자체 작성한 내용입니다.)

Q1. 운영모델 전환이 기존의 프로세스 개선과 어떻게 다른가요?
기존 프로세스 개선은 업무 순서를 정리해 목표 프로세스를 확정하면 끝나는 활동입니다. 운영모델 전환은 업무 순서뿐 아니라 판단 권한과 책임, 판단의 근거가 되는 데이터, 예외 발생 시 이관체계, 성과 측정 방식까지 함께 설계합니다. 딜로이트 보고서는 AI 에이전트가 업무 주체가 되면서 확정된 문서가 아니라 계속 조정되는 운영모델이 핵심 산출물이 됐다고 설명합니다.

Q2. AI를 도입했는데 비용이 줄지 않는 이유는 무엇인가요?
시간이 절약된다고 해서 비용이 자동으로 줄지는 않기 때문입니다. 맥킨지는 한 직무의 과업 중 20%를 제거하더라도 비용이 같은 비율로 줄어드는 경우는 드물다고 지적했습니다. 확보된 시간을 어디에 재배치할지, 역할과 인력구조, 성과책임을 어떻게 바꿀지 계획하지 않으면 절감 효과가 손익에 나타나지 않습니다.

Q3. AI 에이전트를 도입할 때 가장 먼저 정해야 할 것은 무엇인가요?
무엇을 자동화할 것인가보다 무엇을 자동화하지 않을 것인가를 먼저 정해야 합니다. 딜로이트 보고서는 에이전트의 권한 범위, 사람의 승인이 필요한 판단, 남겨야 할 근거 기록, 사람에게 넘겨야 하는 예외 조건이라는 네 가지 통제를 설계 단계에서 확정하라고 권합니다. 특히 반복 횟수와 실행시간 상한을 정하지 않으면 에이전트가 같은 작업을 무한히 반복할 수 있습니다.

기사에 인용된 리포트 원문은 딜로이트 인사이트에서 확인할 수 있습니다.
리포트명: AI 에이전트 시대, PI의 핵심 산출물은 ‘To-Be 프로세스’가 아니라 ‘운영모델’이다 (Deloitte Insights, 2026년 9월)
이미지 출처: AI 생성 콘텐츠
해당 기사는 챗GPT와 클로드를 활용해 작성되었습니다.