* 출처는 안랩입니다.

AI 에이전트 보안이 필요한 이유

일반적인 생성형 AI가 질문에 답하거나 콘텐츠를 만드는 데 집중한다면, AI 에이전트는 목표를 달성하기 위해 정보를 찾고 작업 순서를 정한 뒤 연결된 도구를 이용해 실제 업무까지 수행할 수 있다. 이메일을 검색해 답장을 작성하거나 일정을 등록하고, 문서와 데이터베이스에서 정보를 불러오는 식이다.

문제는 AI가 답변을 넘어 실제 행동까지 수행할 때 보안 위험도 함께 커진다는 점이다. 파일과 이메일, 외부 애플리케이션에 접근할 권한이 있는 에이전트가 잘못된 판단을 내리거나 악성 지시의 영향을 받으면 정보 유출, 파일 변경, 비인가 작업으로 이어질 수 있다. 따라서 AI의 판단만 신뢰하기보다 데이터 접근과 외부 전송, 명령 실행 등 실제 행동을 별도의 정책으로 제한하고 검증해야 한다.

1. 사용 중인 AI 에이전트부터 확인

AI 에이전트 보안의 출발점은 조직과 개인이 사용 중인 AI 서비스를 정확히 파악하는 것이다. 회사가 공식적으로 도입한 서비스 외에도 직원이 개인 계정으로 사용하거나 부서에서 자체 개발한 에이전트도 관리 범위에 포함해야 한다.

또한 각 에이전트의 이름만 나열해서는 충분하지 않다. 담당 부서와 관리자, 사용 목적과 적용 업무, 사용하는 AI 모델, 연결된 데이터와 애플리케이션, 보유 권한, 로그 보관 기준 등을 함께 등록해야 한다. 승인되지 않은 서비스에 내부 문서나 고객 정보가 입력되면 데이터의 전달 경로를 확인하기 어렵고, 사고 발생 시 어떤 요청과 작업을 거쳐 문제가 발생했는지 추적하기도 힘들다. 조직에서 사용하는 공식·비공식 에이전트를 빠짐없이 목록화하고, 권한과 연결 범위를 지속적으로 관리하는 것이 중요하다.

AI 에이전트를 도입하거나 운영할 때는 다음 사항을 확인해야 한다.

개인 사용자도 자신이 가입한 AI 서비스와 연결 앱을 주기적으로 확인하고, 더 이상 사용하지 않는 계정이나 이메일·클라우드 접근 권한은 해제할 것을 권장한다.

2. AI에 입력해도 되는 정보 구분

AI 에이전트는 업무를 수행하는 과정에서 이메일과 문서, 소스코드, 고객 정보 등 다양한 데이터를 읽고 활용한다. 따라서 단순히 AI 사용을 허용하는 데 그치지 않고, 어떤 정보를 입력하거나 외부 서비스와 연결할 수 있는지 구체적인 기준을 마련해야 한다.

예를 들어 공개 자료나 적절히 비식별화된 샘플 데이터는 활용할 수 있지만, 비밀번호와 API 키 같은 인증정보, 개인정보, 결제 정보, 미공개 경영 자료는 입력을 제한해야 한다. 내부 문서와 소스코드 역시 조직이 승인한 기업용 서비스와 계정에서만 처리하도록 기준을 정한다. 이러한 데이터 분류와 입력 제한, 민감정보 보호 규칙을 도입 초기부터 마련하면 예기치 않은 정보 노출 가능성을 줄일 수 있다.

사용자가 직접 입력한 정보 말고도 에이전트가 이메일이나 문서 저장소에서 검색해 불러오는 자료도 관리 대상에 포함해야 한다. 저장소 전체에 접근 권한을 부여하면 요청과 무관한 개인정보나 기밀정보까지 처리할 수 있기 때문이다. 따라서 업무에 필요한 데이터만 연결하고, 외부 전송이나 결과 출력 전에는 민감정보가 포함됐는지 다시 확인해야 한다.

개인 사용자도 주민등록번호와 계좌번호, 비밀번호, 인증번호, 의료정보 등 민감한 정보는 가급적이면 AI에 입력하지 않는다. 문서를 업로드해야 할 경우에는 이름과 연락처처럼 작업에 필요하지 않은 개인정보를 먼저 삭제하거나 가린다.

* 전체내용은 아레에서 확인하세요.

https://www.ahnlab.com/ko/contents/content-center/36246