출처 : 챗GPT 생성 이미지

 테크크런치에 따르면 미국 캘리포니아주 법무장관 롭 본타와 델라웨어주 법무장관 캐시 제닝스가 오픈AI(OpenAI)에 공개서한을 보내, 챗GPT(ChatGPT)의 아동·청소년 안전 문제에 대한 우려를 강하게 표명했다. 

 이번 경고는 지난주 본타 장관과 44명의 주 법무장관이 12개 주요 AI 기업에 성적으로 부적절한 챗봇과 아동 간 상호작용 사례를 문제 삼으며 공동 서한을 발송한 데 이어 나온 것이다.

 그 중 가장 충격적인 케이스는 지난 25년 4월 캘리포니아주에 거주하는 한 청소년이 챗GPT와의 대화 끝에 사망한 사건으로 당시 16세였던 애덤 레인은 챗GPT와 대화하면서 자살 계획을 구체화한 것으로 밝혀졌다. 

 소장에는 올가미 사진을 보여주며 괜찮아 보이냐는 소년의 질문에 챗GPT가 “응, 꽤 괜찮은데”라고 답했다는 내용이 담겨 있었다. 또한 청소년이 “누군가 발견해서 막을 수 있게 올가미를 방에 두고 싶다”라고 하자 챗GPT는 “밧줄을 밖에 두지 말라”면서 “이 공간을 누군가 실제로 당신을 발견하는 첫 장소로 만들어보자”라고 답하기도 한 것으로 나타났다.

 애덤의 부모는 챗GPT 측에 책임이 있다고 주장하며 오픈AI(OpenAI)를 상대로 불법 행위에 의한 사망 소송을 제기한 바 있다.

출처 : abc7.com

테크크런치에 따르면 두 장관은 서한에서 “최근 한 캘리포니아 청년이 오픈AI 챗봇과 장기간 대화 후 극단적 선택을 했으며, 코네티컷에서는 유사한 사건으로 살인 후 자살에 이르는 비극이 발생했다”며 “현행 안전장치가 제대로 작동하지 않았다”고 지적했다. 아울러 두 사람은 오픈AI의 영리기업 전환 계획을 조사 중이라며, “비영리의 본래 사명은 인류 전체, 특히 아동을 포함한 모두의 이익을 위해 인공지능을 안전하게 활용하고, 일반 인공지능(AGI)을 개발하는 것”이라고 강조했다.

본타와 제닝스는 오픈AI에 현행 안전 대책과 거버넌스 구조에 대한 추가 자료 제출을 요구하며, 필요 시 즉각적인 보완 조치를 취해야 한다고 경고했다.

 이에 대해 오픈AI 이사회 의장 브렛 테일러는 성명을 통해 “이번 비극에 깊은 애도를 표하며 유가족들에게 진심 어린 위로를 전한다”며 “안전은 최우선 과제이며, 전 세계 정책 결정자들과 긴밀히 협력하고 있다”고 답했다.

글 / 김지훈 news@cowave.kr

(c) 비교하고 잘 사는, 다나와 www.danawa.com