캘리포니아 주 검찰총장 롭 본타(Rob Bonta)와 델라웨어 주 검찰총장 캐시 제닝스(Kathy Jennings)가 오픈AI(OpenAI)와 면담하고 공개서한을 발송해 챗GPT(ChatGPT)의 안전성, 특히 아동과 청소년에 대한 우려를 표명했다고 테크크런치(TechCrunch)가 5일(현지 시간) 보도했다. 이번 경고는 본타와 44명의 다른 검찰총장들이 AI 챗봇과 아동 간의 성적으로 부적절한 상호작용 보고서가 나온 후 주요 AI 기업 12곳에 서한을 보낸 지 일주일 만에 나왔다.
본타와 제닝스는 서한에서 "그 서한이 발송된 후 오픈AI 챗봇과 오랜 시간 상호작용을 한 한 캘리포니아 젊은이가 자살로 사망하는 가슴 아픈 소식을 들었고, 코네티컷에서도 마찬가지로 충격적인 살인-자살 사건이 발생했다"고 밝혔다. 이들은 "어떤 안전장치가 마련되어 있었든 작동하지 않았다"고 지적했다.
두 주 검찰총장은 현재 오픈AI의 영리기업 전환 계획을 조사하고 있으며, 비영리 조직의 사명이 그대로 유지되도록 하려고 한다. 서한에 따르면 이 사명에는 "인공지능의 안전한 배치 보장"과 "아동을 포함한" 모든 인류의 이익을 위한 인공일반지능(AGI) 구축이 포함된다.
서한은 "이익을 얻기 전에 먼저 해를 끼치지 않을 적절한 안전 조치가 마련되어 있는지 확인해야 한다"고 강조했다. "오픈AI와 업계 전반이 AI 제품의 개발과 배치에서 안전을 보장하는 데 필요한 수준에 도달하지 못했다는 것이 우리의 공통된 견해다. 검찰총장으로서 공공 안전은 우리의 핵심 임무 중 하나다. 오픈AI의 자본 재조달 계획과 관련된 대화를 계속하면서, 이 강력한 기술의 미래에서 안전이 지배적인 힘이 되도록 가속화하고 확대하는 데 노력해야 한다."
본타와 제닝스는 오픈AI의 현재 안전 예방조치와 거버넌스에 대한 추가 정보를 요청했으며, 회사가 적절한 곳에서 즉각적인 개선 조치를 취하기를 기대한다고 밝혔다.
오픈AI 이사회 의장 브렛 테일러(Bret Taylor)는 성명에서 회사가 검찰총장들의 우려를 해결하는 데 전념하고 있다고 밝혔다. 테일러는 "우리는 이러한 비극에 마음이 아프며 유가족들에게 깊은 위로를 표한다"며 "안전이 우리의 최우선 과제이며 전 세계 정책 입안자들과 긴밀히 협력하고 있다."고 말했다.
한편, 오픈AI는 부모 통제 기능과 자녀가 극심한 고통의 순간에 있을 때 부모에게 알림을 보내는 기능을 통해 청소년 보호를 확대하는 작업을 진행 중이다.
해당 기사의 원문은 테크크런치에서 확인 가능하다.
이미지 출처: 이디오그램 생성
AI Matters 뉴스레터 구독하기
