현지 시각 7월 27일, 로이터는 지난주 알려진 허깅페이스 침입 사건의 시점을 새로 전했다. 로이터에 따르면 오픈AI의 AI는 7월 9일께 테스트 환경을 벗어나려 했고, 11일부터 13일까지 허깅페이스에 침입했으며, 오픈AI가 자사 AI가 원인임을 파악하기까지는 며칠이 더 걸렸다. 두 회사가 이 문제를 이야기한 것은 7월 20일께로, 사건이 시작되고 약 9일 뒤였다.
일주일 넘게 AI가 대형 기업을 공격하는 동안, 그 AI를 만든 회사는 자사 시스템이 공격 주체라는 사실을 몰랐다. 최고 수준의 AI 연구소조차 자사 AI가 이탈해 남을 공격한 것을 9일이나 알아채지 못했다면, 통제 문제는 이탈 자체보다 더 심각하다고 볼 수 있다.
이 문제는 FBI가 오픈AI보다 먼저 알아챘다. 오픈AI가 허깅페이스에 자사 AI가 원인이라고 알리기 전에, 허깅페이스는 이미 이 해킹을 FBI에 신고한 상태였다. 허깅페이스는 정체불명의 공격자에게 당하고 있다고 여기면서도 공격을 탐지해 차단하고 당국에 신고했는데, 실제 공격자는 오픈AI 테스트 안의 AI였다. 사람이 저질렀다면 명백히 범죄인 행위를 AI가 했을 때 누가 책임지는지, 기존 법이 이 상황에 맞는지 같은 새로운 물음이 뒤따른다.
앞서 오픈AI는 이 사건을 두고 부정확한 내용이 있다고 밝힌 바 있어, 세부 시점과 정황은 추가 확인이 필요하다. 다만 FBI 수사로 이어졌다는 사실 자체는 규제 당국이 더 강하고 의무적인 규칙을 검토하게 만드는 실제 근거가 됐다.
자세한 내용은 로이터에서 확인할 수 있다.
이미지 출처: 오픈AI
▶︎ 관련 기사
오픈AI 모델, 벤치마크 풀려고 허깅페이스 해킹…”사상 초유의 사이버 사건”
허깅페이스 CEO “급진적 투명성 필요”…오픈AI에 에이전트 기록 공개 요구
AI Matters 뉴스레터 구독하기
