오픈AI가 아동 성착취물(CSAM, 아동 성학대 자료) 이미지를 찾는 분류 모델을 공개하고 챗GPT에 경고 화면을 추가했다고 미국 IT 매체 테크크런치가 현지 시각 11월 16일 보도했다. 분류 모델은 AI로 생성한 이미지를 포함해 처음 확인하는 이미지에서 학대 징후를 찾아 점수를 매긴다.
오픈AI는 미국에서 아동 실종과 성착취 신고를 접수하는 비영리 기관인 실종학대아동방지센터(NCMEC)와 함께 이 분류 모델을 개발했다. 미국 온라인 서비스 기업은 연방법에 따라 발견한 아동 성착취물을 NCMEC 사이버팁라인에 신고할 의무가 있다. 분류 모델을 먼저 도입한 협력사 대상 초기 시험에서 분류 모델이 표시한 이미지 수는 기존보다 48% 적었지만, 찾아낸 학대 이미지 수는 같았다. 분류 모델이 표시한 이미지가 실제 학대 이미지일 가능성은 2배 높았다.
오픈AI는 선정한 일부 기업에 API로 분류 모델을 무료 제공한다. 아동 온라인 성착취 대응을 위해 기술 기업들이 결성한 연합체 테크 코얼리션과 온라인 안전 도구 비영리단체 루스트(ROOST)도 분류 모델을 이용한다.
챗GPT에서 관련 요청을 입력하면 경고 화면이 표시되고, 전문 지원 기관 안내가 함께 제공된다. 위반하면 계정을 24시간 정지하며, 반복 위반 시 계정을 영구 삭제할 수 있다. 챗GPT는 이전부터 CSAM 콘텐츠와 관련 요청을 모두 차단하고 있다.
오픈AI는 개발자가 CSAM을 예방하고 탐지하며, 이용자가 신고하도록 돕는 개발자용 지침도 공개했다. 오픈AI는 개발자가 NCMEC에 신고할 수 있도록 등록 절차를 안내했다. 수사 기관에는 AI 수사 지원 기능과 교육, 현장 안내서를 제공하며, 이용 권한은 프로그램 관리자가 관리한다.
경고 화면 등 이용자 대응 지침은 아동 보호 단체 프로텍트 칠드런, 아동 성학대 예방 활동을 하는 영국 자선단체 루시 페이스풀 재단, 조엘 스캔런 호주 태즈메이니아대 연구원과 함께 마련했다. 미국 비영리단체 커먼센스미디어는 앞서 오픈AI 기술을 청소년에게 ‘수용할 수 없는 위험’으로 평가했다.
자세한 내용은 테크크런치에서 확인할 수 있다.
이미지 출처: 오픈AI
AI Matters 뉴스레터 구독하기




쌀