AI 에이전트가 기업 시스템 깊숙이 들어오면서, 보안을 ‘완성된 규칙’이 아니라 ‘실시간으로 학습하며 보완하는 과정’으로 다뤄야 한다는 인식이 확산되고 있다. 테크크런치는 “모두가 AI 보안을 실시간으로 헤쳐나가고 있다 — 구글조차도”라는 진단을 내놓으며, 업계 선두 기업마저 시행착오를 겪는 현실을 짚었다.

핵심 위협은 에이전트 특유의 자율성에서 나온다. 외부에서 주입된 악성 명령이 도구 호출을 오염시키는 ‘툴 포이즈닝(tool poisoning)’, 정상 입력으로 위장한 ‘프롬프트 인젝션’, 그리고 에이전트가 파일·이메일·결제 등 외부 세계에 행동을 가할 때의 권한 범위가 대표적이다. 에이전트가 ‘읽기’를 넘어 ‘행동’ 단계로 진화할수록, 한 번의 잘못된 판단이 실제 시스템 변경으로 이어질 위험이 커진다.

이 때문에 보안 업계는 행동 무결성(behavioral integrity) 검증, 최소 권한 원칙, 샌드박스 격리, 감사 로그를 핵심 통제 수단으로 제시한다. 실제로 앤트로픽은 클로드 에이전트의 도구 실행을 고객사 클라우드 경계 안에서 처리하는 셀프호스팅 샌드박스를 내놓았고, 퍼플렉시티는 ‘코멧’ 브라우저 에이전트에 대해 기업 관리자가 수행 가능한 행동을 세밀하게 통제하도록 했다.

전문가들은 ‘완벽한 사전 차단’이라는 환상을 버리고, 위협을 빠르게 탐지·격리·복구하는 운영 체계로 무게중심을 옮겨야 한다고 강조한다. 모델·데이터·도구가 끊임없이 바뀌는 환경에서는 정적인 정책만으로 안전을 담보하기 어렵기 때문이다. 기업이 AI 에이전트 도입을 서두르는 한국 시장에서도 권한 설계·데이터 접근 통제·책임 소재 정리가 선행될 만하다.

자세한 내용은 테크크런치(TechCrunch)에서 확인할 수 있다.

이미지 출처: 이디오그램 생성