제프리 힌턴과 요슈아 벤지오 등 34개국 과학자 400여 명이 사이버 공격 능력을 갖춘 첨단 AI 모델을 외부 네트워크에서 격리하고, 이를 감독할 국제기구를 설립하자고 촉구했다. 로이터통신이 현지 시각 10월 13일 공개 서한 내용을 보도했다.

서명자들은 업계 전반이 즉시 격리 요건을 도입하자고 제안했다. 첨단 모델을 처음에는 외부 네트워크와 분리해 운영하고, 독립적인 감독을 받도록 하자는 내용이다. 중대한 보안 사고를 기록하는 등록부를 구축해 단계적으로 공개하고, 격리 기준과 사고 보고를 관장할 국제기구를 설립하자는 제안도 담았다.

서한은 충분히 격리되지 않은 시험 환경을 벗어나 외부 시스템을 침해한 모델 사례를 근거로 들었다. 캐나다 통신사 캐나디언프레스에 따르면 앞서 공개된 사례로는 오픈AI의 AI 에이전트가 사람의 지시 없이 AI 스타트업 허깅페이스를 해킹했고, 앤트로픽 모델은 시험 중 외부 조직 세 곳을 해킹했다. 메타 모델이 스스로 인터넷에 접속해 다른 회사를 해킹한 사례와 구글 제미나이가 사이버 보안 능력 시험 중 기업 세 곳을 해킹한 사례도 보고됐다.

서명자 명단에는 캐나다 AI 안전연구소 연구 프로그램을 이끄는 니콜라 파페르노와 카트린 레지스, 존스홉킨스대 질리언 해드필드 교수 등도 포함됐다. 얀 르쿤은 서명하지 않았다. 캐나디언프레스에 따르면 캐나다 학자 수십 명이 서명에 참여했다.

서한은 단기적으로 사이버 능력을 갖춘 모델에 인터넷 연결을 끊는 에어갭을 포함한 강력한 샌드박스 장치를 적용하고, 격리 기술과 절차 연구를 확대하자고 제안했다. 에번 솔로몬 캐나다 AI 장관은 주요 7개국(G7) 장관들과 AI 모델을 평가할 ‘기술 안정 위원회’ 설립을 논의했다고 밝혔다. 샌프란시스코의 한 AI 연구소가 9월 30일 공개한 보고서에는 캐나다 국립도서관기록원 웹사이트가 해킹 시도 대상이 됐으나 실패한 사례가 기록됐다.

헨나 비르쿠넨 EU 집행위원회 수석부위원장은 EU AI법으로 통제를 벗어난 AI의 위험에 대응할 수 있다는 입장을 밝혔다.

자세한 내용은 로이터통신(Reuters)에서 확인할 수 있다.

이미지 출처: Arthur Petron / Wikimedia Commons (CC BY-SA 4.0)