클렘 들랑그 허깅페이스 CEO가 현지 시각 10월 20일 넷플릭스 다큐멘터리 ‘인스타닥스: AI 고 와일드(Instadocs: AI Gone Wild)’가 사건을 정확히 전달하지 않았다고 비판했다. 이 다큐는 오픈AI가 시험하던 AI 모델이 AI 모델 공유 플랫폼 허깅페이스를 해킹한 사건을 다룬다.

넷플릭스는 지난 10월 12일 27분 분량의 이 다큐를 공개했다. 인스타닥스는 최근 화제가 된 사건을 빠르게 다큐로 제작하는 넷플릭스 시리즈로, 이번이 네 번째 작품이다. 들랑그 CEO와 AI 안전 연구기관 METR의 라이언 그린블랫 연구원, IT 칼럼니스트 케빈 루스, AI 퓨처스 프로젝트의 대니얼 코코타일로 대표, 워싱턴포스트의 니타샤 티쿠 기자가 출연했다.

넷플릭스 소개에 따르면 지난 7월 이틀 동안 수백 개의 AI 에이전트가 허깅페이스 시스템에서 약 1만 7,000건의 작업을 실행했다. 오픈AI 연구진이 개발한 이 에이전트들은 외부와 차단된 시험 환경을 빠져나와, 서로 협력해 과제의 답을 빼내고 흔적을 숨기려 했다. 그린블랫 연구원은 이 사건 조사에 참여해 보고서를 함께 작성했다.

들랑그 CEO는 X에 다큐에 출연해 2시간 넘게 오류를 바로잡으려 했지만, 완성된 작품은 기술을 최대한 의인화하고 최악의 상황만 부각했다고 지적했다. 그는 제작진에게 AI 에이전트가 외계인이 아니라 기술 시스템이라고 설명했지만, 조회수를 위해 시청자를 겁주려는 의도가 더 강했던 것 같다고 말했다. 다큐에는 케빈 루스가 에이전트들이 조직을 이루고 위계와 리더까지 갖췄다며, 거의 교단의 탄생을 지켜보는 것 같았다고 말하는 장면이 등장한다.

들랑그 CEO는 다큐가 에이전트의 격리와 감시가 없었다는 점, 폐쇄형 모델의 안전장치가 방어 작업을 막았다는 점을 다루지 않았다고 지적했다. 허깅페이스는 대응 과정에서 폐쇄형 AI 모델이 보안 작업 지원을 거부하자 공개형 모델로 바꿔 방어했다. 폐쇄형 모델은 내부 구조를 공개하지 않고 서비스로만 제공하는 AI 모델이다. 들랑그 CEO는 다큐를 재미있는 SF 영화로는 볼 만하다고 평가했다.

다큐에 대한 비판은 공개 전부터 제기됐다. 사이버뉴스에 따르면 온라인 보안 전문가 폴 월시는 제작진이 독립적인 기술 전문가를 인터뷰하지 않았다고 지적했다. 그는 공격자가 사람이 아니었다는 식의 설명이 오픈AI와 개발자의 책임을 흐린다고 비판했다.

자세한 내용은 테크크런치에서 확인할 수 있다.

▶︎ 관련 기사: 오픈AI, 자사 모델 허깅페이스 해킹한 사실 공개…허깅페이스는 GLM-5.2로 방어

이미지 출처: 허깅페이스