마이크로소프트가 현지 시각 10월 19일 공식 보안 블로그에서 AI 에이전트를 기업 내부자처럼 관리하는 보안 체계를 공개했다. 글은 나딤 아브도 마이크로소프트 신원 및 네트워크 접근 담당 부사장이 작성했다.
마이크로소프트는 AI 에이전트가 업무를 처리하려면 회사 시스템에 접근해야 하고, 실수를 하거나 외부 공격에 조종당할 수 있어 직원과 같은 내부자로 관리할 필요가 있다고 설명했다. 사티아 나델라 최고경영자(CEO)는 “AI 모델에 스스로 보안 권한자 역할을 맡겨서는 안 된다”고 밝혔다. 마이크로소프트는 예측하기 어려운 AI의 판단을 정해진 규칙과 독립된 기록, 격리 장치로 통제하는 방식을 제시했다.
마이크로소프트는 에이전트마다 이를 사용하거나 등록한 직원과 별도의 신원을 부여한다. 이 신원은 ‘마이크로소프트 엔트라 에이전트 ID’로 관리되며, 에이전트의 담당자와 사용 기간, 적용 정책을 확인하는 기준이 된다.
에이전트 권한은 맡은 업무 범위와 기간에 맞춰 부여되고, 업무가 바뀌거나 끝나면 회수된다. 예를 들어 일상적인 경비 정산을 승인하는 에이전트는 이를 등록한 직원의 권한을 모두 물려받지 않는다. 시스템은 신원과 데이터, 기기, 클라우드, 네트워크 신호를 바탕으로 에이전트의 위험도를 계속 계산하고, 위험이 커지면 권한 축소와 쓰기 차단, 실행 중단 순으로 대응한다. 에이전트가 허용된 자원에만 접근하도록 하는 격리 실행 공간 ‘MXC’도 함께 소개했다. PC에서 실행되는 에이전트 탐지 기능에는 35종이 추가돼 클로드 코드, 오픈AI 코덱스, 깃허브 코파일럿 등 60종을 찾아낼 수 있다.
마이크로소프트는 AI 에이전트로 보안 위협에 대응하는 ‘프로젝트 퍼셉션’을 에이전트 관리 영역으로 확대했다. 여기서 작동하는 ‘가디언 에이전트’는 보안팀 업무를 쉬지 않고 지원하며, 새로 추가된 ‘플레이북’에 정한 보안 목표에 따라 보호 조치를 실행한다. 목표 설정과 중요한 결정은 사람이 맡는다. 마이크로소프트는 11월 17일부터 20일까지 개최되는 연례 행사 ‘이그나이트’에서 관련 내용을 추가로 소개할 예정이다.
자세한 내용은 마이크로소프트 보안 블로그에서 확인할 수 있다.
이미지 출처: 마이크로소프트
AI Matters 뉴스레터 구독하기
