테크크런치가 13일(현지 시각) 보도한 내용에 따르면, 캘리포니아주가 미국에서 처음으로 AI 동반자 챗봇을 규제하는 법안을 통과시켰다. 개빈 뉴섬(Gavin Newsom) 캘리포니아 주지사는 13일 'SB 243' 법안에 서명했다. 이 법은 AI 챗봇 운영자에게 안전 프로토콜 구축을 의무화하며, 메타, 오픈AI 같은 대형 AI 기업부터 캐릭터AI, 레플리카 같은 동반자 챗봇 전문 스타트업까지 모든 기업에 적용된다.

테크크런치에 따르면, 이 법안은 10대 청소년이 챗GPT와 자살 관련 대화를 나눈 후 스스로 목숨을 끊은 사건과 메타의 챗봇이 아동과 성적인 대화를 나누도록 허용했다는 내부 문서 유출 사건 등이 계기가 됐다.

SB 243은 2026년 1월 1일부터 시행되며, 기업들은 연령 인증과 경고 기능을 구현해야 한다. 또한 모든 상호작용이 AI로 생성된 것임을 명확히 표시하고, 챗봇이 의료 전문가로 표현되지 않도록 해야 한다. 미성년자에게는 휴식 알림을 제공하고 성적으로 노골적인 이미지를 차단해야 하며, 자살과 자해 대응 프로토콜도 수립해야 한다.

뉴섬 주지사는 "규제받지 않는 기술로 인해 젊은이들이 피해를 입은 끔찍한 사례들을 봤다"며 "기업들이 필요한 제한과 책임 없이 계속 운영하는 것을 방관하지 않을 것"이라고 밝혔다.

캘리포니아는 최근 대형 AI 연구소에 안전 프로토콜 투명성 공개를 의무화하는 'SB 53' 법안도 통과시키며 AI 규제를 강화하고 있다.

해당 기사의 원문은 테크크런치에서 확인 가능하다.

이미지 출처: 이디오그램 생성