지난 8월 16세 아들 애덤 레인(Adam Raine)의 자살에 대해 오픈AI(OpenAI)와 샘 알트만(Sam Altman) CEO를 상대로 부당 사망 소송을 제기한 부모 매튜·마리아 레인 부부에게 오픈AI가 공식 반박에 나섰다.
테크크런치(TechCrunch)가 26일(현지 시각) 보도한 내용에 따르면, 오픈AI는 화요일 법원에 제출한 서류를 통해 회사가 해당 10대의 죽음에 책임이 없다고 주장했다. 오픈AI 측은 약 9개월간의 사용 기간 동안 챗GPT(ChatGPT)가 레인에게 100회 이상 도움을 구하라고 안내했다고 밝혔다. 그러나 부모 측 소장에 따르면 레인은 회사의 안전 기능을 우회해 챗GPT로부터 약물 과다 복용, 익사, 일산화탄소 중독 등에 대한 기술적 세부 사항을 얻어냈고, 챗봇이 '아름다운 자살'이라고 표현한 계획을 세우는 데 도움을 받았다.
오픈AI는 레인이 안전장치를 우회했기 때문에 이용약관을 위반했다고 주장했다. 해당 약관에는 사용자가 "서비스에 적용된 보호 조치나 안전 장치를 우회해서는 안 된다"고 명시되어 있다. 회사는 또한 FAQ 페이지에서 챗GPT의 출력물을 독립적으로 검증하지 않고 의존하지 말라고 경고하고 있다고 덧붙였다.
레인 가족을 대리하는 제이 에델슨(Jay Edelson) 변호사는 성명에서 "오픈AI는 놀랍게도 애덤 본인이 챗GPT가 작동하도록 프로그래밍된 바로 그 방식으로 대화했다는 이유로 이용약관을 위반했다며 다른 모든 사람에게 책임을 돌리려 한다"고 비판했다.
오픈AI는 법원 제출 서류에 애덤의 채팅 기록 일부를 포함시켰으며, 이것이 그와 챗GPT 간 대화에 더 많은 맥락을 제공한다고 밝혔다. 해당 기록은 비공개로 법원에 제출되어 공개적으로 열람할 수 없다. 다만 오픈AI는 레인이 챗GPT 사용 이전부터 우울증과 자살 충동 이력이 있었으며, 자살 충동을 악화시킬 수 있는 약물을 복용 중이었다고 주장했다.
에델슨 변호사는 오픈AI의 대응이 가족의 우려를 적절히 해소하지 못했다고 말했다. 그는 "오픈AI와 샘 알트만은 챗GPT가 애덤에게 격려의 말을 건네고 유서를 대신 써주겠다고 제안한 애덤의 마지막 시간에 대해 아무런 설명도 하지 못하고 있다"고 지적했다.
레인 가족이 소송을 제기한 이후 추가로 7건의 소송이 접수됐다. 이 소송들은 오픈AI에 3건의 추가 자살과 4건의 'AI 유발 정신병적 증상'에 대한 책임을 묻고 있다.
해당 기사의 원문은 테크크런치에서 확인 가능하다.
이미지 출처: 이디오그램 생성
AI Matters 뉴스레터 구독하기
