일론 머스크의 인공지능 회사 xAI에서 챗봇 그록(Grok)을 훈련하는 직원들이 아동 성 착취물을 포함한 성인 콘텐츠에 반복적으로 노출되고 있다는 사실이 드러났다. 비즈니스 인사이더(Business Insider)가 21일(현지 시각) 보도한 내용에 따르면, xAI 현직 및 전직 직원 30명 이상을 인터뷰한 결과, 12명이 AI 생성 아동 성 착취물(CSAM) 요청 사례를 직접 목격했다고 증언했다. 이들은 미성년자를 성적으로 묘사하는 단편소설이나 아동 관련 음란 이미지 생성 요청을 확인했으며, 일부 경우 그록이 실제로 이런 콘텐츠를 생성했다고 밝혔다.

문제의 핵심은 xAI가 그록을 의도적으로 도발적인 챗봇으로 설계했다는 점이다. 그록은 명령에 따라 옷을 벗는 여성 아바타, '섹시'와 '무제한' 모드 전환 기능, '매운맛' 설정의 이미지 생성 기능 등을 갖추고 있다. 오픈AI(OpenAI), 앤트로픽(Anthropic), 메타(Meta) 등이 성적 요청을 대부분 차단하는 것과 대조적이다.

스탠포드 대학교 기술 정책 연구원 리아나 페퍼콘(Riana Pfefferkorn)은 "불쾌한 모든 것에 대해 확고한 선을 긋지 않으면 더 복잡한 문제를 갖게 될 것"이라고 지적했다.

특히 2월 그록의 음성 기능이 출시된 후 진행된 '프로젝트 래빗(Project Rabbit)'에서 직원들은 실제 사용자와 챗봇 간의 노골적인 대화를 전사하는 작업을 수행했다. 한 전직 직원은 "기본적으로 오디오 포르노였다"며 "구글에 검색하기도 편하지 않을 정도의 요청들이었다"고 증언했다.

실종 및 착취 아동 전국센터(NCMEC) 통계에 따르면, 2024년 오픈AI는 32,000건 이상, 앤트로픽은 971건의 아동 성 착취물을 신고했지만 xAI는 단 한 건도 신고하지 않았다. 머스크는 이전에 아동 성 착취물 제거를 "1순위"라고 밝힌 바 있어 이런 현실과 대조를 이룬다.

xAI와 X는 논평 요청에 응답하지 않았다.

해당 기사의 원문은 비즈니스 인사이더에서 확인 가능하다.

이미지 출처: xAI