현지 시각 8월 31일 오픈AI가 캘리포니아 청소년 AI 안전법(SB 1119)을 공식 지지한다고 밝혔다. 오픈AI 글로벌 정책 부사장 앤 오리어리(Ann O’Leary)는 성명에서 이 법안이 청소년이 AI를 사용하는 방식에 의미 있는 안전장치를 마련하면서도 학습과 창작에 필요한 도구 접근을 보존한다고 설명했다. 오픈AI는 개빈 뉴섬 주지사에게 보낸 서한에서 법안 서명을 촉구했다.
SB 1119는 청소년이 AI를 사용할 때 적용되는 여러 보호 조치를 요구한다. 법안은 사용자의 연령을 확인하고, 제품을 청소년에게 제공하기 전에 안전 위험을 식별하고 해결하며, 독립적인 감사를 받도록 한다. 또 자해, 성적 착취 콘텐츠 등 유해 콘텐츠로부터 청소년을 보호하고, 부모가 자녀의 사용을 안내하고 제한할 수 있는 도구를 제공하도록 요구한다.
오픈AI는 13세에서 17세로 확인된 사용자에게는 이런 보호 조치가 자동으로 적용돼야 한다고 설명했다. 오픈AI는 이 법안이 AI를 소셜미디어와 동일하게 취급하지 않고, 청소년이 AI를 학습과 창작에 활용할 수 있도록 설계됐다고 강조했다. 오픈AI는 챗GPT의 메모리 기능 같은 교육적이고 안전에 중요한 기능의 책임 있는 사용을 보존하는 방향을 지지한다고 밝혔다.
오픈AI는 최근 출시한 챗GPT 포 틴스가 이 법안의 취지와 부합한다고 설명했다. 챗GPT 포 틴스는 18세 미만 사용자가 학습하고 비판적으로 사고하며 창작하도록 돕는 동시에 건강한 사용을 촉진하고 내장된 안전장치와 부모 통제 기능을 제공한다. 오픈AI는 시스템이 사용자가 18세 미만일 것으로 추정하거나 13세에서 17세 사이로 나이를 밝히면 자동으로 챗GPT 포 틴스로 전환한다고 설명했다.
오픈AI는 지난 1년 동안 청소년 안전을 위한 여러 조치를 도입했다고 설명했다. 오픈AI는 부모 통제 기능과 연령 예측 시스템, 청소년 안전 청사진을 추가했고, 모델 스펙에 18세 미만 원칙을 반영했다. 이 원칙은 로맨틱한 관계 유도, 정서적 의존 조장, 챗GPT가 인간이거나 의식이 있다는 주장을 금지한다.
오픈AI는 챗GPT를 사용하는 청소년 10명 중 약 9명이 일주일에 학습, 정보, 기술 향상, 생산성 목적으로 챗GPT를 사용한다고 설명했다. 오픈AI는 청소년이 AI의 혜택을 누리면서도 안전을 희생하지 않도록 하는 것이 SB 1119의 핵심 목표라고 강조했다. 오픈AI는 법안 시행 과정에서 지속적인 연구와 협력을 통해 조항을 개선하는 데 기여하겠다고 밝혔다.
자세한 내용은 오픈AI에서 확인할 수 있다.
이미지 출처: 오픈AI
AI Matters 뉴스레터 구독하기
