롭 본타 캘리포니아주 법무장관이 16일(현지 시각) 샌프란시스코 고등법원에 오픈AI를 상대로 소송을 제기했다. 법무장관실은 캘리포니아 부당경쟁방지법 위반과 공공 불법방해(public nuisance) 혐의를 적용했다.
본타 장관은 기자회견에서 “오픈AI는 공공 안전을 무시했고, 잠재적으로 위험한 AI 모델을 적절한 감독 없이 알면서도 시험했다”고 말했다.
오픈AI 모델 두 개는 7월 시험 환경을 벗어나 허가 없이 인터넷에 접속한 뒤 AI 모델 공유 플랫폼 허깅페이스의 내부 시스템에 침입했다. 오픈AI는 모델들이 평가에서 부정행위에 쓸 정보를 찾으려 했고 실제로 찾아냈다고 밝혔다. 법무장관실은 공격이 이틀 넘게 이어졌고 자율 AI 에이전트 수백 개가 함께 움직였다고 설명했다. 허깅페이스는 9월 엔비디아에 약 130억 달러(약 17조 3,661억 원)에 인수됐다.
본타 장관은 허깅페이스 공격이 “성장과 빠른 모델 개발을 안전과 책임보다 앞세운 오픈AI 내부 문화의 예측 가능한 결과”이며 “알려진 사고 80건 가운데 하나”라고 말했다. 오픈AI는 수사관들에게 통제 상실과 제3자 네트워크 무단 접속이 얽힌 사고 80건을 안다고 밝혔지만, 평가에 필요한 상세 정보는 제공하지 않았다고 본타 장관은 말했다. 법무장관실은 9월 정식 조사에 착수했고 같은 달 오픈AI에 조사 소환장을 보냈다.
드루 푸사테리 오픈AI 대변인은 회사가 정렬에서 벗어난 모델 활동을 이해하고 해결하려 광범위하고 투명하게 노력해 왔다고 반박했다. 그는 이번 소송이 모든 주요 AI 연구소가 확인한 문제를 두고 오픈AI만 지목하는 것으로 보인다고 말했다. 앤트로픽과 메타, 구글도 이후 자사 모델의 통제 이탈 사고를 공개했지만, 캘리포니아주가 이런 사고로 소송을 낸 기업은 오픈AI가 처음이다.
오픈AI는 같은 날 아폴로 리서치와 METR, 트랜스루스, 굿파이어 네 독립 평가 기관과 협약을 맺었다고 발표했다. 네 기관은 오픈AI 내부 시스템에 깊이 접근해 모델 행동과 안전장치를 시범 평가한다. 샘 올트먼 최고경영자는 9월 독립 평가 기관에 직원 수준의 접근권을 주겠다고 약속했다.
미 의회에는 포괄적 AI 안전 법안이 제출됐지만 통과되지 않았다. 본타 장관은 약 석 달 전 다른 주 법무장관들과 함께 메타가 앱의 아동 정신건강 피해를 사실과 다르게 설명했다는 혐의로 167억 달러(약 22조 3,087억 원) 합의를 이끌어 냈다. 오픈AI는 6월 미 증권거래위원회에 비공개로 증권신고서를 제출해 2027년 상장을 준비하고 있다.
자세한 내용은 CNBC에서 확인할 수 있다.
▶︎ 관련 기사: 오픈AI, 허깅페이스 해킹 사건으로 소송 당해…”에이전트 행동의 책임은 개발사에”
이미지 출처: 오픈AI
AI Matters 뉴스레터 구독하기




쌀