* 출처는 안랩입니다.

AI 보안이란 무엇인가

AI 보안은 AI 모델, 학습 데이터, 입력값과 출력값, AI가 연결된 시스템을 공격과 오남용으로부터 보호하는 보안 체계를 의미한다. 기존 보안이 네트워크, 단말, 서버, 사용자 계정 보호에 초점을 맞췄다면, AI 보안은 여기에 모델과 데이터, AI의 의사결정 과정까지 포함한다는 점이 특징이다.

AI 모델은 데이터를 기반으로 학습하고, 입력된 정보에 따라 결과를 생성한다. 따라서 공격자는 AI가 잘못된 답변을 하거나 의도하지 않은 행동을 하도록 입력을 조작할 수 있다. 또 학습 데이터나 민감 정보가 노출되거나, AI가 과도한 권한을 부여받아 예상치 못한 작업을 수행하는 상황도 보안 리스크가 될 수 있다.

이 때문에 AI를 도입하는 조직은 AI의 성능뿐 아니라, 어떤 데이터에 접근하는지, 어떤 권한으로 동작하는지, 결과를 어떻게 검증할 것인지까지 함께 고려해야 한다.

알아두면 좋은 AI 보안 핵심 용어

에이전틱 AI

에이전틱 AI는 사용자의 지시를 바탕으로 스스로 판단하고 여러 단계를 수행하는 AI를 뜻한다. 단순히 질문에 답하는 수준을 넘어, 이메일 작성 및 전송, 일정 조율, 파일 검색, 시스템 작업 등 특정 목표를 달성하기 위해 능동적으로 행동할 수 있다.

업무 효율을 높일 수 있다는 장점이 있지만, 잘못된 권한이 부여되거나 악의적인 입력을 받으면 의도하지 않은 작업으로 이어질 수 있다. 따라서 에이전틱 AI를 사용할 때는 수행 가능한 작업 범위와 접근 권한을 명확히 제한하고, 중요한 작업에는 검토 절차를 두는 것이 필요하다.

기계 신원

기계 신원은 사람 대신 시스템, 애플리케이션, 서비스 계정, API, AI 에이전트 등이 사용하는 디지털 신원을 의미한다. 클라우드와 자동화 환경이 확대되면서 비인간 계정이 시스템에 접근하는 경우가 크게 늘고 있다.

AI 환경에서도 기계 신원 관리는 중요하다. AI가 외부 시스템과 연동하거나 데이터를 조회하려면 인증 키, 토큰, 서비스 계정 등을 사용하는 경우가 많기 때문이다. 이런 인증 정보가 노출되면 공격자가 AI나 연결 시스템을 악용할 수 있으므로, 키 관리와 권한 최소화, 주기적인 점검이 필요하다. ( * 쿠팡 개인정보 유출 사례가 생각나네요.)

* 전체내용은 아래에서 확인하세요.

https://www.ahnlab.com/ko/contents/content-center/36160