일론 머스크의 xAI가 14일(현지 시각) 자사 AI 챗봇 그록(Grok)의 이미지 생성 기능에 대한 안전 조치를 대폭 강화했다. X 세이프티 계정에 따르면, 그록 계정은 전 세계적으로 실제 인물이 비키니와 같은 노출이 심한 옷을 입은 이미지를 편집하는 기능을 차단하는 기술적 조치를 시행했다. 이 제한은 유료 구독자를 포함한 모든 사용자에게 적용된다.

xAI는 또한 그록 계정을 통한 이미지 생성 및 편집 기능을 전 세계적으로 유료 구독자에게만 제공하기로 했다. 일부 지역에서는 지오블록(Geoblock) 기능도 도입된다. 해당 콘텐츠가 불법인 국가에서는 모든 사용자가 그록에서 비키니, 속옷 및 유사한 복장을 입은 실제 인물의 이미지를 생성하는 기능이 차단된다. xAI는 그록 앱에도 유사한 지오블록 조치를 구현하고 있다.

xAI는 기존 안전 프로토콜은 변경되지 않았다고 강조했다. 모든 AI 프롬프트와 X에 게시된 생성 콘텐츠는 xAI가 지정한 규칙을 엄격히 준수해야 한다. 콘텐츠 생성 방식이나 사용자의 유료 구독 여부와 관계없이, 안전팀은 24시간 추가 안전장치를 마련하고 위반 및 불법 콘텐츠를 신속하게 제거하며 적절한 경우 계정을 영구 정지하고 필요시 지역 정부 및 법 집행 기관과 협력하고 있다.

xAI는 "생성형 AI의 급속한 발전은 업계 전반에 걸쳐 과제를 제시하고 있다"며 "문제가 발생하면 더 신속하게 해결하기 위해 사용자, 파트너, 관리 기관 및 다른 플랫폼과 적극적으로 협력하고 있다"고 밝혔다.

해당 발표 내용은 X 세이트티에서 확인 가능하다.

이미지 출처: xAI