캡제미니 리서치 인스티튜트가 조사한 내용에 따르면, 공공부문 조직의 90%가 앞으로 2~3년 안에 'AI 에이전트'를 도입할 계획인 것으로 나타났다. AI 에이전트란 스스로 판단하고 행동하는 지능형 프로그램을 말한다. 하지만 아직 이 기술은 복잡하고 실험적인 단계가 많아 현장 적용이 쉽지 않다. 캡제미니는 리포트를 발표해 기술 책임자들이 이러한 복잡성을 헤쳐나갈 수 있도록 실질적인 안내와 구조 설명을 담았다.

단순 자동화를 넘어 스스로 생각하는 AI 시스템

자동화, 인공지능, 자율 에이전트가 만나면 어떤 일이 벌어질까. 먼저 자동화는 미리 정해진 규칙대로 사람 손 없이 일을 처리하는 시스템이다. 여기에 AI가 더해지면 데이터에서 배우고 패턴을 찾아내며 데이터를 보고 결정을 내릴 수 있게 된다. AI 에이전트는 한 단계 더 나아간다. 단순히 일을 처리하는 것을 넘어 상황 정보를 활용해 스스로 행동 방식을 선택하고 결과를 개선하도록 설계된다.

이 세 가지가 함께 작동할 때 업무 방식이 단순히 반복되는 게 아니라 진화한다. 배우고, 적응하고, 끊임없이 나아진다. 특히 인력 부족과 업무 증가로 어려움을 겪는 공공부문에서 이런 변화는 매우 중요하다.

사람 말뿐 아니라 컴퓨터 언어도 이해하는 AI

여기서 말하는 '언어'는 우리가 일상에서 쓰는 한국어나 영어만을 뜻하지 않는다. 프로그램 코드, 데이터베이스 명령어, 시스템 제어 신호 같은 것들도 모두 언어다. 진짜 자동화가 이뤄지려면 언어 자체보다 언어와 데이터, 상황 파악 능력이 함께 작동해야 한다.

마이크로소프트의 애저 오픈AI 서비스, 오픈AI의 GPT-5, 구글 제미나이, 아마존 베드록, 미스트랄 AI 같은 대규모 언어 모델들은 사람의 말만 이해하는 게 아니다. 프로그래밍 코드, 데이터베이스 검색 명령, API 호출 같은 것들도 똑같이 이해할 수 있다. 모델이 사람 언어뿐 아니라 기계 언어로도 소통할 수 있을 때, 할 수 있는 일의 범위가 엄청나게 넓어진다. 단순히 글을 쓰거나 대화하는 것을 넘어 시스템을 제어하고, 업무를 시작시키고, 데이터를 분석하고, 실시간으로 결정을 내릴 수 있게 된다.

레벨 0부터 5까지, 점점 똑똑해지는 AI

AI 에이전트의 자율성은 점점 높아지는 단계로 나뉜다. 레벨 0은 AI가 전혀 개입하지 않는 단계다. 레벨 1은 AI가 도와주는 단계로, 기본적인 규칙 기반 도구가 미리 정해진 업무 흐름을 지원한다. 레벨 2로 가면 AI가 사람의 판단을 향상시키는 추천과 통찰을 제공한다. 레벨 3에서는 AI가 업무 과정에 통합되며 반자율 에이전트가 더 복잡하고 부서를 넘나드는 일을 관리한다.

레벨 4는 독립적인 AI 운영으로의 전환을 나타낸다. 여러 AI 에이전트가 실시간으로 협력해 작업을 조율하고 의사결정을 내린다. 이를 흔히 '스웜(무리)'이라고 하며, 에이전트들이 똑똑한 집단으로 움직인다. 크루AI, 마이크로소프트 오토젠, 랭그래프, 오픈AI 에이전트 SDK 같은 다양한 프레임워크가 이런 무리 구현을 가능하게 한다. 마지막 레벨 5는 AI 시스템이 스스로 진화하는 생태계로 작동하는 완전한 자율성을 나타낸다.

독일 정부, 이미 AI로 업무 티켓을 자동 생성 중

독일 연방 고용청의 실제 사례는 AI 에이전트의 실용성을 잘 보여준다. 캡제미니와 협력해 이들은 내부 시스템인 알레그로 안에서 IT 서비스 티켓 생성을 자동화하기 위해 AI 에이전트를 적용했다. 알레그로는 4만 명 이상 직원의 사회 복지 업무를 지원하는 시스템이다.

엄격한 규칙 기반 자동화 대신, 변경 요청과 사용자 이야기를 구조화된 지라 티켓으로 바꾸기 위해 함께 작동하는 AI 에이전트 팀을 사용한다. 이 에이전트들은 관련 정보를 뽑아내고, 작업을 잘게 나누며, 완전한 티켓을 만들고, 일관성과 중복 여부를 검토한다. 모든 것이 기관의 시설 안에서 데이터 보호 기준을 완벽히 지키며 이뤄진다.

챗GPT가 소셜미디어 글을 자동으로 올린다

소셜 미디어는 더 이상 인플루언서만의 영역이 아니다. 공공기관들은 디지털 존재감의 전략적 가치를 점점 더 인식하고 있다. 인재 부족과 인구 변화 속에서 링크드인, 인스타그램, 페이스북 같은 플랫폼에서 강력한 존재감을 갖는 것은 현대적이고 매력적인 고용주로 인식되는 데 중요하다.

소셜 미디어 콘텐츠의 생성, 게시, 기록은 챗GPT를 중심으로 자동화될 수 있다. 챗GPT는 단순한 창의적 콘텐츠 생성기가 아니라 전체 자동화 사슬의 시작점이기도 하다. 재피어는 챗GPT와 연결된 도구 사이의 다리 역할을 한다. "인재 개발에서의 AI"라는 주제를 입력하면 맞춤형 GPT가 두 개의 맞춤 게시물을 만들고, 재피어는 자동으로 선택한 플랫폼에 게시하고 게시물 주소를 구글 시트에 기록한다.

시민 이메일 답변부터 왓츠앱 검침까지

정부 기관은 엄청난 양의 수신 요청을 처리하고 있다. AI는 이메일을 분류하고 처리하며 그에 따라 행동하는 데 도움을 줄 수 있다. 재피어는 데이터 흐름을 관리하고 텍스트 생성, 분석, 의사결정 같은 GPT 기능을 사용한다. "AI by Zapier" 응용프로그램을 사용하면 언어 모델을 모든 업무 흐름에 넣을 수 있다.

독일 호프 시의 실제 활용 사례도 눈에 띈다. 지역 전력회사는 주민들이 왓츠앱으로 전기 계량기 검침 값을 디지털로 제출할 수 있게 한다. 방식은 진입장벽이 낮아 접근하기 쉽고 특별한 앱이나 기술 지식이 필요 없다. 시민이 우편으로 QR 코드를 받아 스캔하면 자동화 플랫폼이 작동해 트윌리오를 통해 왓츠앱 메시지를 보내 전기 계량기 사진 제출을 요청한다. 시민이 이미지로 답하면 플랫폼이 AI 이미지 인식 서비스를 작동시켜 검침 값을 뽑아내고 확인한다.

정형화되지 않은 데이터도 똑똑하게 처리

서비스 자동화는 정부 서비스에 대한 시민 신청 과정을 크게 개선할 수 있다. AI 에이전트는 쓰레기 수거 일정, 신분증 갱신, 육아 등록, 급여 자격에 대한 질문에 답할 수 있다. 이는 흔히 반복적이고 시간에 민감하며 많은 자원이 드는 작업이다. 헬프데스크도 들어오는 문의를 더 빠르게 분석하고 하루 24시간 작동할 수 있다.

릴레번스 AI는 강력한 에이전트층을 제공한다. 정형화되지 않은 데이터, 즉 고정된 규칙으로 다룰 수 없는 내용을 이해하고 해석하고 분류하며 목표 지향적인 행동이나 후속 질문을 일으키는 에이전트다. 인사 부서에서는 지원서를 미리 심사하고, 고등교육 분야에서는 학생 요청에 공식 가이드라인에 따라 일관되게 답한다.

복잡하고 법적으로 민감하거나 감정적으로 부담스러운 문의는 "사람에게 넘기기" 기능이 자동으로 작동한다. 이는 모든 분석 단계, 분류된 내용, 답변 초안과 함께 요청을 사람 담당자에게 넘겨 빠르고 정확하며 공감하며 답할 수 있게 한다.

공공기관이 지금 당장 해야 할 6가지

리포트에 따르면 에이전트형 비전을 실행으로 옮기기 위해 공공기관 리더가 지금 취해야 할 6단계가 있다.

첫째, 튼튼한 데이터 기반을 만들어야 한다. AI 에이전트가 자율적이고 상황 인식적인 의사결정을 내리려면 강력하고 잘 관리된 데이터 시설이 필요하다. 통합된 의미 데이터 모델을 만들고, 프로그램 연결 통로를 통해 깨끗하고 믿을 수 있는 데이터를 제공하며, 데이터 출처와 변경 사항을 추적하고, 데이터 검증 과정을 세워야 한다.

둘째, 시스템 수준에서 자동화 준비성을 평가한다. 에이전트형 자동화가 기존 체계에 어디에 들어갈 수 있는지 파악하는 것부터 시작한다. 이미 부분적으로 디지털화되어 있고 프로그램 연결 통로, 웹훅 끝점, 카프카나 래빗MQ 같은 메시지 줄 시스템을 통해 연결할 수 있는 과정에 집중한다.

셋째, 적합한 에이전트형 실행 구조를 선택한다. 운영 제약 안에서 작동하는 실행 모델을 선택한다. n8n은 자체 시설이나 외부 차단 환경에 이상적이며, 릴레번스 AI와 랭체인은 대규모 언어 모델 기반 멀티 에이전트 시스템 구축에 적합한 모듈식 파이썬 우선 틀이다.

넷째, 명령과 접점을 체계적으로 설계한다. 명령을 일회성 요령이 아닌 실제 소프트웨어 구성 요소처럼 만든다. 변수가 있는 틀을 사용하고, 에이전트가 쓸 수 있는 도구를 설정하며, 명령 버전을 코드처럼 추적한다.

다섯째, 사용 사례를 전략적으로 찾아내고 우선순위를 정한다. 모든 사용 사례가 에이전트형 자동화에 적합한 것은 아니다. 일상성 강도, 중요도, 창의성, 구조화 가능성의 네 가지 핵심 차원을 기반으로 한 결정 행렬을 사용해 우선순위를 정한다.

여섯째, 시스템을 지속적으로 감시하고 시험하며 개선한다. 에이전트형 시스템은 역동적이지만 무엇을 하고 있는지 볼 수 있어야 한다. 대시보드에 주요 통계를 표시하고, 요청 추적과 기록을 설정하며, AI가 신뢰도 기준점에 도달하지 못하거나 사람이 개입해야 할 때를 위한 백업 계획을 세운다.

FAQ( ※ 이 FAQ는 본지가 리포트를 참고해 자체 작성한 내용입니다.)

Q1. AI 에이전트와 일반 자동화는 어떻게 다른가요?

A. 일반 자동화는 미리 정해진 규칙대로만 일을 처리합니다. AI는 데이터에서 배우고 패턴을 찾아 결정을 내려 자동화를 향상시킵니다. AI 에이전트는 한 단계 더 나아가 일을 처리할 뿐 아니라 상황을 파악하고 행동 방식을 조정하며 계속해서 결과를 개선합니다.

Q2. 공공기관에서 AI 에이전트를 도입할 때 가장 주의할 점은 무엇인가요?

A. 공공기관은 최대한의 데이터 주권, 투명한 의사결정 방식, 기존 시스템과 책임에의 통합이 필요합니다. 민간 기업과 달리 공공 행정은 모든 자동화된 결정이 법적으로 책임 있고 설명 가능해야 합니다. 조각난 IT 시스템은 AI가 매끄럽게 통합되어야 하며, 시민 데이터는 국내 법률에 따라 보호되어야 합니다.

Q3. AI 에이전트 도입을 어디서부터 시작하면 좋을까요?

A. 반복성이 높고 위험도는 낮으며 구조화가 잘된 일부터 시작하세요. 이메일 분류 및 정해진 양식 답변 발송, 기본 자격 요건 확인, 문서 읽기 및 양식 작성, 약속 일정 잡기 및 알림 발송 같은 작업이 적합합니다. 작게 시작해 성공을 측정하고 빠르게 반복하세요.

해당 기사에 인용된 리포트 원문은 캡제미니에서 확인 가능하다.

리포트명: Architecting AI agents in the public sector

이미지 출처: 캡제미니

해당 기사는 챗GPT와 클로드를 활용해 작성되었습니다.