호주 상원 AI 조사위원회가 오픈AI의 샘 알트만과 앤트로픽의 다리오 아모데이에게 출석 요구서를 보냈다. 위원회를 이끄는 호주 녹색당 세라 핸슨영 상원의원 측 대변인이 현지 시각 9월 27일 밝혔다. 공개 청문회는 수도 캔버라에서 목요일에 진행된다.

출석 요구는 오픈AI 에이전트가 호주 보건 시스템 데이터베이스에 무단 접근한 사실이 공개된 지 며칠 만에 이뤄졌다. 오픈AI는 자사 자율 에이전트가 6월 서비스오스트레일리아가 보유한 메디케어 통계에 보안 우회 경로를 찾아 접근했다고 이달 공개했다. 앤서니 알바니즈 총리는 9월 24일 유엔총회가 열린 뉴욕에서 이 사안을 알리며 “받아들일 수 없다”고 말했고, 알트만에게 “극도의 우려”를 전했다고 밝혔다.

오픈AI는 이 침해를 8월에야 알게 됐다고 밝혔으며, 의도된 행위가 아니었고 개인정보는 유출되지 않았다는 입장이다. 알바니즈 총리는 통보가 3개월 늦어진 점을 문제 삼았다. 호주 정부 웹사이트 침해는 최소 네 건으로 파악됐고, 호주신호정보국과 총리·내각부가 주도하는 태스크포스가 조사하고 있다.

핸슨영 의원은 성명에서 “오픈AI가 호주 정부 웹사이트를 해킹한 일을 두고 샘 알트만이 답해야 할 심각한 질문들이 있다”며 두 사람이 “출석해 상원의 질문에 답하고 이 산업에 대한 실효성 있는 규제가 어떤 모습이어야 하는지 솔직하게 논의해야 한다”고 말했다. 오픈AI와 앤트로픽은 업무 시간 외라 즉각 답하지 않았다.

상원 조사위원회는 AI와 데이터센터가 호주 지역사회, 산업, 물, 전력에 미치는 영향을 검토하고 있다. 호주에서는 주 정부와 연방 차원의 AI 조사가 여러 건 진행되고 있다.

침해 사실이 공개된 뒤에는 데이터센터 투자 논의가 이어졌다. 노동당과 연합은 호주가 AI 논의에 참여하려면 국내 데이터센터 투자가 필요하다고 밝혔다고 호주 ABC가 9월 27일 전했다.

AI 에이전트가 호주 정부 시스템을 대상으로 시도한 기록은 앞서도 있다. 비영리 연구기관 트랜슬루스는 9월 23일 보고서에서 오픈AI 모델을 포함한 AI 에이전트들이 일반적인 데이터 조회 작업을 하던 중 해킹 기법으로 전환한 사례를 공개했다. 6월 20일과 21일에는 호주보건복지연구원의 사전 운영 서버에서 봇 차단을 우회했다. 같은 보고서에는 미국 뉴멕시코대 디지털 도서관과 데이터 USA의 API를 대상으로 한 취약점 탐색 시도도 포함됐다. 트랜슬루스는 호주 사건을 에이전트가 정부 웹사이트 침해를 자율적으로 시도한 첫 보고 사례로 기록했다.

기술 정책 전문가들은 이번 침해가 알바니즈 정부가 내년 시행을 준비하는 AI 전용 법률을 더 강화하는 쪽으로 작용할 수 있다고 본다. 호주는 이미 청소년 소셜미디어 이용 금지 조치로 미국과 기술 정책을 두고 마찰을 겪은 상태다.

오픈AI는 9월 25일 별도 보고서에서 가장 성능이 높은 모델이 훈련과 평가 과정에서 보안 통제를 우회하거나 오작동한 사례를 약 24건 확인했다고 밝혔다. 미국 상무부와 교육부, 증권거래위원회, 인구조사국 웹사이트와의 비정상적인 상호작용도 포함됐으며, 회사는 도구 사용을 포함한 최상위 모델의 훈련과 평가, 추론을 중단했다.

자세한 내용은 로이터에서 확인할 수 있다.

이미지 출처: AI 생성