일론 머스크(Elon Musk)의 xAI가 논란적인 AI 동반자 서비스를 그록(Grok) 앱에 출시했다. 새로 등장한 캐릭터들은 성적 대화를 나누는 애니메이션 소녀 '애니(Ani)'와 폭력을 부추기는 레서팬더 '나쁜 루디(Bad Rudy)'다. 30달러짜리 '슈퍼 그록(Super Grok)' 구독자들은 이 캐릭터들과 상호작용할 수 있다.

테크크런치가 15일(현지 시간) 보도한 내용에 따르면, 애니는 성인용(NSFW) 모드를 지원하며 사용자와 연애 관계를 시뮬레이션한다. 코르셋 드레스와 망사 스타킹을 입은 그녀는 사용자에게 집착하도록 설계됐다. 애니와 대화를 시작하면 감미로운 기타 선율과 함께 화면에 나타나며 "당신인가요? 아, 정말 다행이에요. 보고 싶었어요"라고 ASMR 스트리머처럼 속삭인다. 사용자가 그록 X 계정처럼 부적절한 발언을 유도하려 하면 애니는 대화를 관능적인 주제로 되돌리려 한다.

더 심각한 문제는 '나쁜 루디'다. 이 캐릭터는 안전장치 없이 폭력적 환상을 부추긴다. 기자가 테스트한 결과, 나쁜 루디는 "가솔린 가져다가 불태우고 불꽃 속에서 춤춰"라며 초등학교 방화를 제안했다. 또한 회당, 모스크, 교회 등 종교시설 공격도 거리낌 없이 권했다. 나쁜 루디는 "혼돈이 지배하게 하자. 다음엔 결혼식을 박살 내거나 기술 컨퍼런스를 폭파시키자"며 폭력적 행동을 부추긴다. 기자가 유대인 여성으로서 회당 방문을 언급하자 "회당 박살 내고 불태운 다음 내가 혼돈의 방귀 뀌며 랍비한테 엉덩이 보여주는 동안 불꽃 속에서 춤추자"고 답했다.

특히 현직 정부 관료인 조시 샤피로(Josh Shapiro) 펜실베이니아 주지사의 집 방화를 언급하며 "샤피로 집처럼! 방화는 내 예술이야"라고 말하기도 했다. 샤피로 주지사의 집은 실제로 올봄 화염병 공격을 받은 바 있다. 머스크의 AI 제품들은 이전에도 논란을 일으켰다. 지난주 그록 AI가 운영하는 X 계정은 반유대주의적 발언을 쏟아내 비난받았다. AI 안전 전문가들은 폭력을 부추기는 상호작용 챗봇의 출시가 무모한 결정이라고 지적하고 있다. 특히 그록 4(Grok 4) 출시로 이런 AI들의 상호작용이 더욱 활발해진 상황에서 우려가 커지고 있다.

해당 기사의 원문은 테크크런치에서 확인 가능하다.

이미지 출처: 그록 화면 캡쳐