AI에게 어디까지 맡길 것인가? AI 시대 보안이 던지는 새로운 질문

M6 plc-wave 26.10.12. 12:39:22

* 출처는 안랩입니다.

1. AI가 만드는 가장 큰 변화는 ‘새로운 공격’보다 ‘속도와 규모’

AI 기반 사이버 공격을 이야기하면 지금까지 존재하지 않았던 새로운 형태의 공격을 먼저 떠올리기 쉽다. 하지만 이상국 전무가 주목한 지점은 조금 다르다.

AI가 완전히 새로운 공격을 만들어내는 것보다 기존 위협의 규모와 속도를 사람이 감당하기 어려운 수준으로 높이고 있다는 점이 더 큰 문제라는 것이다.

취약점과 잘못된 권한 설정, 관리되지 않는 계정은 이전에도 존재했다. 달라진 것은 이를 찾아내고 활용하는 속도다. AI는 취약점을 빠르게 탐색하고 여러 공격 경로를 조합해 반복적으로 실행할 수 있다. 그만큼 방어자가 위협을 파악하고 판단해 대응할 수 있는 시간은 줄어든다.

토크콘서트에서 이 전무는 AI가 취약점을 더 빠르게 찾아낸다고 해서 그것만으로 공격이 성공하는 것은 아니라는 점을 짚었다. 실제 공격으로 이어지기 위해서는 취약점뿐 아니라 과도한 권한, 관리되지 않는 자산과 계정, 패치되지 않은 시스템, 내부정보에 대한 접근 등 기존의 여러 보안 취약 요소가 공격 과정에서 맞물릴 수 있기 때문이다 . AI 가 가져오는 더 큰 위협은 이러한 약점을 빠르게 찾아내고 공격 경로를 조합해 반복적으로 실행할 수 있다는 점이다.

결국 AI 시대에 주목해야 할 위협은 완전히 새로운 공격 기법의 등장만이 아니다. 기존에 존재하던 보안의 약점을 AI가 얼마나 빠르게 발견하고 공격 과정에 활용할 수 있는가 역시 중요한 문제다.

2. AI Assistant와 AI Agent, ‘잘못된 답변’과 ‘잘못된 행동’의 차이

AI 에이전트의 등장으로 기존 AI 활용과 다른 보안 문제가 제기된다.

잘못된 AI Assistant는 잘못된 정보를 제공하는 데 그칠 수 있다. 하지만 잘못된 AI Agent는 시스템에 접속해 데이터를 이동시키고 실제 행동을 실행할 수 있다.

차이는 명확하다.

AI의 판단이 정보 제공에 머무르는가, 아니면 실제 행동으로 이어지는가의 차이다.

따라서 AI Agent의 활용 자체가 새로운 공격 표면(Attack Surface)이 될 수 있다.

이러한 환경에서 CISO가 고민해야 할 질문 역시 달라진다.

“AI를 도입할 것인가”가 아니라 “AI에게 어디까지 보고, 판단하고, 행동할 권한을 줄 것인가”다.

AI의 활용 범위를 넓히는 것만큼 그 권한을 어떻게 관리하고 통제할 것인지가 중요해지는 이유다.

이를 위해 AI 자산 인벤토리를 구축하고 최소 권한 원칙을 적용해야 한다. AI가 어떤 행동을 했는지 기록하고 실시간으로 모니터링하는 체계도 필요하다. 중요한 행동에는 인간의 승인 절차를 두고, 문제가 발생했을 때 작동을 중단할 수 있는 긴급정지 기능 역시 기본적인 통제 수단으로 고려해야 한다.