AI 에이전트가 자율적으로 작업을 수행하다 오류가 발생하면, 그 영향이 시스템 전반에 퍼질 수 있는 위험이 있다. 이에 대응해 데이터 보안 기업 Rubrik이 최근 선보인 ‘Agent Rewind’는 AI 에이전트의 ‘행동 실수’를 찾아내고, 자동으로 변경된 사항들을 초기 상태로 되돌릴 수 있는 새 기능이다.

Agent Rewind는 Rubrik이 올해 인수한 Predibase의 AI 기반 기술을 활용해 실현됐다. 기능은 크게 세 가지로 구성돼 있다. 첫째, AI 에이전트의 행동을 context-enriched visibility 형태로 분류·탐색할 수 있어, 어떤 프롬프트나 도구, 계획에서 문제가 발생했는지 명확하게 추적할 수 있다.

둘째, Safe Rollback 기능을 통해 파일, 데이터베이스, 시스템 설정 등 변경 내역을 Rubrik Security Cloud 기반의 스냅샷 데이터로 돌려준다. 시스템 장애나 데이터 삭제 등 심각한 문제 발생 시 신속하게 복구 가능하다.

셋째, 다양한 AI 플랫폼과 호환된다는 점이다. Salesforce Agentforce, Microsoft Copilot Studio, Amazon Bedrock Agents뿐 아니라, 각 기업의 커스텀 AI 에이전트에도 적용할 수 있어 확장성이 뛰어나다.

IDC 연구 총괄 Johnny Yu는 “Agentic AI는 인간과 다른 ‘비인간 오류(non-human error)’를 내포한다”며, “Agent Rewind처럼 오류 발생 시 이를 되돌릴 수 있는 솔루션이 필요하다”고 말했다. 또한 BioIVT의 정보보안책임자 Chad Pallett은 “이 기능은 내가 기다려온 솔루션”이라며, “무슨 일이 일어났는지, 왜 발생했는지, 그리고 어떻게 복구할지를 한 꺼번에 제공한다”고 호평했다.

오늘날 AI 기반 자동화 시스템이 폭발적으로 확대되는 가운데, Agent Rewind는 단순 관찰 도구를 넘어 ‘AI 회복력(resilience)’을 확보하려는 본격적인 실천 방안으로 평가된다. AI가 빠르게 발전하는 만큼, 그 통제 수단도 함께 진화하고 있다는 점이 중요한 시사점으로 남는다.

글 / 한만수 news@cowave.kr

(c) 비교하고 잘 사는, 다나와 www.danawa.com