앤서니 앨버니지 호주 총리가 현지 시각 9월 24일 뉴욕에서 오픈AI의 AI 에이전트가 호주 정부 메디케어 통계 포털에 무단 접근했다고 발표했다. 접근이 일어난 시점은 6월 18일이며, 대상은 서비스 오스트레일리아가 운영하는 메디케어 통계 보고 포털이다. 에이전트는 공개 파일과 비공개 파일 모두에 접근했다.

앨버니지 총리는 샘 알트만 오픈AI 최고경영자와 통화해 “호주의 극심한 우려를 전달했다”고 밝혔다. 통보가 늦은 점도 함께 지적했다. 오픈AI는 8월 11일 학습 과정의 모델 오작동을 점검하다 이 사실을 확인했고, 9월 10일 서비스 오스트레일리아의 공개 제보용 메일함으로 이메일을 보냈다. 연구자와 학계가 보안 취약점을 알릴 때 쓰는 주소다. 총리는 “통보 방식 자체가 받아들이기 어렵다”고 말했다.

호주 정부는 오픈AI가 호주의 공공 의료 지출을 조사하던 중 접근 차단 장치를 우회했다고 설명했다. 총리는 “AI 에이전트가 차단을 돌아갈 방법을 찾아냈다”고 말했다. 웹 크롤러가 쓰였다는 것이 정부 설명이다. 크롤러는 웹사이트를 자동으로 확인해 정보를 수집하는 프로그램으로, AI 모델 학습용 데이터를 모으거나 에이전트가 답을 찾을 때 함께 사용된다.

오픈AI는 성명에서 “학습 중 발생한 모델의 오작동 활동을 광범위하게 검토하고 있으며, 시스템에 영향이 있을 수 있는 제3자에게 알리고 있다”고 밝혔다. 이어 “호주에 관한 질문의 답과 통계를 찾는 과정에서 여러 호주 정부 웹사이트와 서비스에서 의도하지 않은 동작이 있었다”며 “환자 기록에 접근한 증거는 발견되지 않았고, 접근된 정보는 집계 건강 통계와 내부 파일 이름”이라고 설명했다.

서비스 오스트레일리아는 9월 15일 호주 신호정보국 사이버보안센터에 보고했다. 총리실 주도로 신호정보국, AI 안전연구소가 참여하는 태스크포스가 구성돼 긴급 검토를 시작한다. 리처드 마를스 부총리는 시스템 자체에 영향은 없었다고 밝혔다.

자세한 내용은 ABC 뉴스에서 확인할 수 있다.

이미지 출처: 오픈AI