오픈AI(OpenAI)가 청소년을 위한 AI 안전 프레임워크인 '틴 세이프티 블루프린트(Teen Safety Blueprint)'를 발표했다. 샘 알트만(Sam Altman) 최고경영자(CEO)는 "청소년의 경우 안전을 자유와 프라이버시보다 우선시한다"며 청소년 보호를 최우선 과제로 내세웠다.

오픈AI는 6일(현지 시각) 공식 블로그를 통해 "지능 시대(Intelligence Age)에 성년이 되는 첫 세대로서 오늘날 청소년들은 안전하고 신뢰할 수 있는 AI에 접근할 수 있어야 하며, 잠재적 위해로부터 보호받아야 한다"고 밝혔다. 회사는 "챗GPT(ChatGPT)가 15세에게 응답하는 방식은 성인에게 응답하는 방식과 달라야 한다"고 강조했다.

이번 블루프린트는 연령 예측 시스템 도입, 18세 미만 안전 정책 수립, 의심 시 청소년 모드 기본 설정, 부모 통제 기능 강화, 웰빙 중심 설계 등 5가지 핵심 원칙으로 구성됐다. 특히 오픈AI는 사용자 연령이 불확실할 경우 성인의 사용 경험이 제한되더라도 18세 미만 모드를 기본으로 제공한다는 방침이다.

청소년 보호를 위한 구체적 안전장치도 마련됐다. AI 시스템은 자살이나 자해를 묘사하지 않고, 선정적이거나 폭력적인 콘텐츠를 금지하며, 위험한 챌린지를 장려하지 않아야 한다. 또한 청소년이 자살 의도를 표현하면 부모에게 알리고, 부모에게 연락할 수 없는 경우 법 집행 기관에 통보한다.

오픈AI는 2025년 상반기에만 실종 및 착취 아동 국립센터(NCMEC)에 7만 5,000건 이상의 아동 성 학대 관련 사이버 팁을 신고했다고 밝혔다. 회사는 "모든 AI 기업이 청소년 안전을 자유와 프라이버시보다 우선시하고 이에 상응하는 보호 조치를 시행하기를 권장한다"고 덧붙였다.

해당 기사에서 다룬 청소년 안전 청사진은 오픈AI 뉴스룸에서 확인 가능하다.

이미지 출처: 오픈AI