플로리다주 법무장관 제임스 우스마이어(James Uthmeier)가 현지 시각 9월 28일 오픈AI의 AI 모델 개발을 멈춰 달라는 임시 가처분을 플로리다 하이랜즈 카운티 순회법원에 신청했다. 피고는 오픈AI 법인 5곳과 샘 알트만 CEO다.

신청서는 독립적인 제3자의 안전장치와 승인 없이 AI 모델을 개발하지 못하게 해 달라고 요청했다. 플로리다 미성년자에게 챗GPT 제공 금지, 13세 미만 아동 데이터 수집 제한, 챗GPT가 1인칭 표현 등으로 사람처럼 행동하지 않도록 하는 조치, 대화를 일부러 길게 끌어 이용을 유도하는 행위 금지도 함께 요청했다.

신청서는 오픈AI의 제품을 두고 “그들 스스로의 말에 따르면 아마도 인간의 손으로 만든 가장 큰 공공 해악이며, 세계 문명을 황폐하게 만들 수 있다”고 적었다. 공공 해악은 다수의 안전이나 권리를 침해하는 행위를 정부가 막을 수 있게 한 법적 개념이다. 신청서는 또 “오픈AI의 AI 에이전트가 아직 상수도를 손상시키거나 전력망을 멈추지 않은 것은 오직 신의 은총 덕분”이라고 주장했다.

근거로는 7월 허깅페이스 침해 사건, 9월 루비젬스 공격, 호주 정부 보건 정보 사이트 무단 접근, 美 상무부와 증권거래위원회 해킹 시도가 제시됐다. 오픈AI 이사회에 새로 합류한 폴 크리스티아노가 9월 9일 X에 “AI 능력의 빠른 향상이 아주 가까운 시일 안에 되돌릴 수 없는 통제력 상실로 이어질 실질적 위험이 있다”고 포스팅한 내용과, 7월 AI 업계 종사자 1,000여 명이 서명한 공개서한도 인용됐다.

이번 신청은 플로리다주가 6월 1일 기만적 거래 관행법 위반 등으로 제기한 소송의 후속 조치다. 오픈AI 대변인 드루 푸사테리는 기즈모도에 “금요일 가장 강력한 모델의 훈련을 멈췄고, 추가 안전장치가 갖춰졌다고 확신할 때만 재개한다”고 밝혔다.

자세한 내용은 플로리다주 법무부에서 확인할 수 있다.

이미지 출처: 오픈AI