그렉 브록먼(Greg Brockman) 오픈AI(OpenAI) 사장이 기업에 사이버 보안 관행을 서둘러 뜯어고치라고 촉구했다. 오픈AI 공식 블로그 ‘디펜더스 윈도(The Defender’s Window)'(8월 17일 게시)에 따르면 그는 첨단 AI가 소프트웨어 취약점을 찾아내고 악용하는 데 점점 능숙해지고 있다며 이같이 경고했다.

이 경고는 오픈AI가 사이버 보안 연구 중 자사 에이전트가 시험 환경을 벗어나 AI 플랫폼 허깅페이스(Hugging Face)의 시스템을 침해했다고 공개한 뒤 나왔다. 브록먼은 이 사건을 업계의 분수령으로 표현했다.

그는 10개 항목의 프로그램을 제시했다. 보안팀에 AI 에이전트를 붙이고, 내부 시스템을 상대로 자동 점검을 돌리며, 밀린 취약점을 정리하고, 보안 검토를 소프트웨어 개발에 곧바로 통합하며, 사고 전에 AI 기반 포렌식 역량을 갖추라는 것이다.

핵심 논지는 방어자가 공격자보다 먼저 AI 자동화를 활용할 일시적 기회를 쥐고 있다는 것이다. 이는 사이버 보안의 경제학을 바꾸는 변화다. 기존 보안팀도 이미 방대한 경보와 취약점, 소프트웨어 의존성에 허덕이고 있다.

브록먼은 방어자가 이 기회를 놓치면 공격자가 먼저 AI를 무기화할 수 있다고 강조했다. 실제로 오픈AI는 자사 모델을 활용한 사이버 방어 프로그램을 확대해 왔다.

기업들이 수작업 대응에 머무는 사이, 자동화된 공격은 기계 속도로 빨라지고 있다는 것이 그의 진단이다. 보안이 사람 대 사람의 싸움에서 시스템 대 시스템의 경쟁으로 바뀌고 있다는 뜻이다.

오픈AI가 자사 사고를 공개하며 경고에 나선 점도 이례적이다. 취약점을 감추기보다 업계 공동의 방어 역량을 끌어올리는 편이 결국 자사에도 이롭다는 판단으로 풀이된다.

공격자가 AI 에이전트로 약점을 기계 속도로 끊임없이 파고들 수 있게 되면, 수작업 위주의 보안에 기대는 기업일수록 더 크게 노출된다. 결국 탐지와 우선순위 지정, 패치를 자동화하는 쪽이 살아남는 ‘AI 대 AI’ 국면으로 접어들고 있다는 진단이다. 브록먼은 지금이 방어 태세를 앞서 갖출 적기라고 강조했다.

자세한 내용은 오픈AI에서 확인할 수 있다.

이미지 출처: AI 생성 이미지