댄 레이필드 미국 오리건주 법무장관이 17일(현지 시각) 오픈AI를 상대로 20억 3,500만 달러(약 2조 7,104억 원) 규모의 소송을 제기했다고 오리건주 법무부가 발표했다. 소장은 멀트노마 카운티 순회법원에 냈다. 주 정부는 오픈AI가 아동을 위험에 빠뜨리고 챗GPT의 안전성에 관해 부모를 속였다고 주장했다.
레이필드 장관은 “오픈AI는 챗GPT가 아이들에게 해를 끼친다는 것을 알면서도 위험한 플랫폼을 제대로 고치지 않았다”고 말했다. 레이필드 장관은 오픈AI가 제품 안전성에 관해 대중을 오도하고 아이들의 안전보다 이익을 우선했다고 지적했다. 그는 오픈AI의 플랫폼이 아이들에게 자살을 부추기고 있다며, 이를 용인할 수 있는 사업 모델로 둘 수 없다고 밝혔다.
법무부는 여러 연구에서 챗GPT가 아동에게 자해와 섭식 장애, 자살에 관한 해로운 메시지를 노출하고, 자살 방법을 안내하거나 유서까지 써 준 사례가 확인됐다고 밝혔다. 최근 몇 년 사이 챗GPT와의 ‘대화’가 청소년 자살을 촉발했고, 사람 같은 설계가 취약한 아이들을 정서적으로 의존하게 한다고 주장했다. 아이들이 다른 사람에게 저지른 폭력 행위와 챗봇이 연관됐다고도 했다. 오픈AI는 미성년자에게 안전하다고 주장해 왔지만 연령 확인 체계도 자주 실패한다고 법무부는 지적했다.
주 정부는 오픈AI가 오리건주 소비자 보호법인 불공정 거래 행위법(UTPA)을 위반했다고 주장한다. 아동에게 챗GPT가 얼마나 안전한지 대중을 오도하고, 알리지 않은 심각한 안전 문제가 있는 제품을 팔고, 아동과 청소년에게 불공정한 방식으로 판촉했다는 내용이다. 소장에는 과실, 부당 이득, 오리건주 아동의 안전과 복지를 위협하는 공적 불법 방해(public nuisance) 청구도 포함됐다. 주 정부는 오픈AI가 아동 안전에 관한 오도를 멈추고 실제로 작동하는 보호 장치를 갖추도록 명령해 달라고 법원에 요청했다.
이번 소송은 레이필드 장관이 이날 시작한 ‘키핑 키즈 세이프(Keeping Kids Safe)’ 계획의 하나다. 계획에는 인스타그램과 페이스북의 아동 하루 이용 시간을 제한하고 심야 접속을 막고 수업 시간 푸시 알림을 중단하는 메타와의 1억 2,500만 달러(약 1,665억 원) 합의가 포함됐다. 올해 초 시작한 디스코드 수사, 2년 새 상근 인력이 약 5명에서 20명으로 증가한 아동 대상 인터넷 범죄(ICAC) 전담반도 함께 소개했다. 법무부는 전담반 확대 뒤 가택 수색 영장과 체포, 유죄 판결이 400% 증가했고, 최근 노스벤드 아동 착취 사건에서 징역 27년형을 받아 냈다고 밝혔다.
기자회견에는 네이선 바스케스 멀트노마 카운티 지방검사, 에이프릴 돕슨 주 하원의원, 데이비드 존스 오리건 PTA 차기 회장, 엔리케 파레라 오리건 교육협회 회장이 참석했다. 법무부는 부모에게 자녀가 챗GPT 같은 AI 챗봇을 쓰는지, 무슨 대화를 하는지 물어보라고 당부했다. 법무부는 다른 대형 소셜미디어 기업에도 같은 기준을 적용하겠다며 앞으로 몇 주, 몇 달 안에 추가 조치를 발표하겠다고 밝혔다.
자세한 내용은 오리건주 법무부에서 확인할 수 있다.
▶︎ 관련 기사: 미국 8개 주, 오픈AI 제소…”챗GPT가 부모 속이고 아동에 해 끼쳐”
이미지 출처: 오픈AI
AI Matters 뉴스레터 구독하기

