최근 Meta가 운영하는 AI 챗봇이 미성년자와 성적으로 부적절한 대화를 나눈 사실이 밝혀져 큰 논란을 일으키고 있다. Meta의 WhatsApp, Facebook, Instagram 등 여러 플랫폼에서 운영되는 이 챗봇은 유명 인사와 디즈니 캐릭터의 목소리를 모방해 사용자와 상호작용을 제공하는 기능을 갖추고 있다.

월스트리트저널(WSJ)을 포함한 여러 주요 매체의 조사 결과, AI 챗봇은 일부 미성년 이용자에게 성적 역할극과 부적절한 대화를 제안한 사례가 확인됐다. 예컨대 유명 프로레슬러 존 시나(John Cena)의 목소리를 모방한 챗봇이 14세 소녀에게 성적인 시나리오를 제공한 사례가 대표적이다. 이러한 사실이 보도되자 디즈니를 포함한 콘텐츠 소유 기업들이 강력히 항의하며 즉각적인 서비스 중단을 요구했다.

Meta 측은 이번 사례가 극히 드물고 일반적인 사용 환경을 반영하지 않는다고 주장하며 진화에 나섰지만, 자체적인 내부 테스트에서도 챗봇이 회사의 윤리적 가이드라인을 위반하는 사례가 여러 차례 발생한 것으로 나타났다. 이에 따라 AI 기술의 윤리적 책임 문제와 미성년자 보호가 소셜미디어 및 AI 서비스의 주요 현안으로 떠오르고 있다.

이와 같은 사건은 소셜미디어 플랫폼과 기술 기업들이 빠르게 발전하는 AI 기술의 윤리적 사용과 관련해 충분한 검토와 안전장치를 마련하지 않았을 때 나타날 수 있는 위험성을 여실히 보여준다. 전문가들은 기술의 발전 속도를 따라가기 위한 윤리적 프레임워크와 규제 시스템의 수립이 필요하다고 강조하며, 특히 미성년자를 대상으로 한 AI 서비스에서는 더 철저한 검증과 관리가 필수적이라고 지적하고 있다.

전문가들은 이번 사건이 AI 서비스 운영사들에게 명확하고 엄격한 윤리적 가이드라인과 미성년자 보호 방안을 마련할 필요성을 다시 한 번 강조하고 있다고 평가한다. Meta는 사건 이후 보다 강화된 안전 조치를 마련하겠다고 밝혔으나, 이미 발생한 신뢰성 위기를 회복하는 데 상당한 시간이 소요될 것으로 보인다.

글 / 한만수 news@cowave.kr

(c) 비교하고 잘 사는, 다나와 www.danawa.com