샌프란시스코 시가 메타에 AI로 생성된 아동 성착취물(CSAM) 광고 게재 중단을 요구하는 서한을 보냈다. 데이비드 츄(David Chiu) 시 검사장이 현지 시각 9월 9일 4쪽 분량의 서한을 메타 측에 전달했다. 와이어드(WIRED)가 이날 보도했다. 서한은 같은 광고가 반복적으로 게재된 이유에 대한 설명도 요구한다.

와이어드 조사에 따르면 메타는 최근 몇 달 사이 미성년자의 정지 이미지를 성행위 영상으로 변환한 광고 350개 이상을 운영했다. 광고를 클릭하면 AI 이미지·영상 생성 앱으로 연결됐다. 일부는 실제 인물의 이미지를 사용한 것으로 확인됐다. 테크 트랜스페런시 프로젝트(TTP) 연구진이 광고를 발견했다.

광고는 페이스북과 인스타그램, 스레드에 게재됐다. 유럽연합(EU)에서 2만 9,000개 이상의 계정에 도달했고, 미국과 호주, 인도에서도 노출됐다. 와이어드가 지난 8월 초 53개 광고를 처음 보도한 뒤에도 250개 이상의 광고가 추가로 운영됐다. 연구진은 광고를 발견할 때마다 국립실종아동센터(NCMEC)와 메타에 신고했다.

츄 검사장은 메타가 알려진 문제를 해결하지 못한 채 광고로 수익을 얻고 있다고 지적했다. 메타는 광고가 샌프란시스코에서 게재됐다는 증거가 없어 시의 관할 밖이라는 입장을 밝혔다. 시 검사장실은 샌프란시스코 소비자가 메타 온라인 공간을 통해 불법 광고에 접근할 수 있다며 반박했다.

메타는 확인된 광고를 모두 정책 위반으로 삭제했다고 설명했다. 대부분의 광고 노출이 200회 미만이었다는 입장도 덧붙였다. 메타 대변인은 ‘누디파이 앱이나 실제·AI 생성 여부와 관계없이 아동 착취를 용납하지 않는다’고 말했다.

메타는 대부분의 광고가 AI 탐지 도구 도입 전에 게재된 것이라고 설명했다. 하지만 연구진은 도구 도입 이후에도 250개 이상의 광고가 추가로 게재된 것을 확인했다고 반박했다. 미국 상원의원 마크 워너(Mark Warner)도 지난 8월 메타에 서한을 보내 이 문제를 지적한 바 있다.

샌프란시스코 시의 서한은 AI 생성 아동 성착취물 광고 문제를 공론화한 계기가 됐다. 플랫폼의 광고 검수 체계에 대한 논의도 이어지고 있다. 시는 메타가 문제를 해결할 때까지 관련 광고의 게재 중단을 요구하고 있다.

샌프란시스코 시의 서한은 AI 생성 아동 성착취물 광고 문제를 공론화한 계기가 됐다. 플랫폼의 광고 검수 체계에 대한 논의도 이어지고 있다. 시는 메타가 문제를 해결할 때까지 관련 광고의 게재 중단을 요구하고 있다. AI 생성 이미지가 불법 콘텐츠에 악용되는 사례가 잇따르는 가운데 나온 조치다.

자세한 내용은 와이어드에서 확인할 수 있다.

이미지 출처: 메타