20일(현지 시각) 오픈AI가 챗GPT에 AI 기반 연령 예측 기능을 도입한다 밝혔다. 사용자의 접속 시간, 사용 패턴 등을 분석해 18세 미만으로 판단되면 폭력·자해·성적 콘텐츠 등을 자동으로 차단하는 시스템이다.
오픈AI에 따르면 이 기능은 사용자가 직접 나이를 밝히지 않아도 AI가 알아서 미성년자 여부를 판단한다. 계정을 만든 지 얼마나 됐는지, 주로 언제 접속하는지, 어떤 방식으로 사용하는지, 본인이 입력한 나이 정보 등을 종합적으로 분석한다. 회사는 이 과정에서 어떤 정보가 정확도를 높이는지 계속 학습하며 시스템을 개선한다고 밝혔다.
미성년자로 분류되면 어떤 콘텐츠가 막힐까. 잔인한 폭력 장면, 청소년에게 위험한 행동을 부추기는 챌린지 영상, 성적이거나 폭력적인 역할극, 자해 관련 내용, 극단적인 다이어트나 외모 비하를 조장하는 콘텐츠 등이 자동으로 차단된다. 오픈AI는 이런 기준이 아동 발달 전문가들의 의견과 학술 연구를 바탕으로 만들어졌다고 설명했다. 청소년은 성인과 달리 위험을 인식하거나 충동을 조절하는 능력이 아직 발달 중이라는 점을 고려했다는 것이다.
만약 성인인데 실수로 미성년자로 분류됐다면 간단하게 해결할 수 있다. 페르소나(Persona)라는 신원 확인 서비스에 셀카 사진을 보내면 나이를 확인받고 모든 기능을 다시 쓸 수 있다. 설정 메뉴에서 언제든 확인 가능하다.
부모들은 자녀의 챗GPT 사용을 더 세밀하게 관리할 수도 있다. 부모 통제 기능을 켜면 챗GPT를 못 쓰는 시간대를 정하거나, AI가 대화를 기억하는 기능을 끄거나, 자녀가 심한 스트레스를 받는 것 같으면 알림을 받을 수 있다.
이번 조치는 오픈AI가 앞서 발표한 '청소년 안전 청사진(Teen Safety Blueprint)'의 후속 작업이다. 회사는 출시 결과를 지켜보며 계속 정확도를 높여나갈 계획이라고 했다. 유럽연합(EU)에서는 현지 규정을 맞추느라 몇 주 뒤에 시작된다.
오픈AI는 이번 조치가 중요한 진전이지만 청소년 안전을 위한 노력은 계속될 것이라며, 미국심리학회(American Psychological Association) 등 전문 기관들과 협력하며 개선 사항을 공유하겠다고 밝혔다.
해당 서비스에 대한 자세한 사항은 Open AI 뉴스룸에서 확인 가능하다.
이미지 출처: Open AI
AI Matters 뉴스레터 구독하기
