캘리포니아가 챗봇 회사에 위기 지원과 연령 확인, 부모 통제를 의무화하는 ‘애덤스 법(Adam’s Law)’을 제정했다. 포춘이 현지 시각 9월 14일 보도했다. 개빈 뉴섬 주지사가 지난 10일 서명했으며 내년 1월 1일부터 시행된다.

법 이름은 2025년 챗봇과의 대화를 마친 뒤 스스로 목숨을 끊은 10대 애덤 레인(Adam Raine)의 이름에서 따왔다. 법은 챗봇 기업에 앱 내 위기 지원, 연령 확인, 아동 대상 타깃 광고 금지, 부모 통제 기능을 요구한다. 정신 건강을 해칠 수 있는 상호작용을 막기 위한 합리적 조치를 취하지 않으면 책임을 진다.

오픈AI는 이 법안의 성형 과정에 깊이 관여했다. 앤 오리어리(Ann O’Leary) 글로벌 정책 부사장이 공동 발의자인 레베카 바우어-카한(Rebecca Bauer-Kahan) 하원의원, 버피 윅스(Buffy Wicks) 하원의원, 스티브 파딜라(Steve Padilla) 상원의원과 협력해 조항을 다듬었다. 협상은 격렬했다고 소식통이 전했다.

앤트로픽, 구글, 메타, 아마존 대표도 논의에 참여했다. 앤트로픽은 18세 미만 이용 금지 조항을 넣는 대신 법 적용에서 제외되는 방향을 협상했다. 오리어리 부사장은 이 법이 AI 청소년 안전의 전국 표준이 될 것이라고 말했다.

오픈AI는 1년 전만 해도 주 차원 규제에 반대했다. 크리스 르헤인(Chris LeHane) 글로벌 정책 부사장은 연방 차원의 유예를 지지해 왔다. 오픈AI는 지난해 8월 뉴섬 주지사에게 보낸 서한에서 주별 규칙 파편화가 혁신을 늦출 수 있다고 밝혔다.

오픈AI는 주 법이 사실상 전국 표준이 되는 ‘리버스 페더럴리즘(reverse federalism)’을 받아들이고 있다. 트럼프 행정부의 10년 규제 유예 시도는 하원을 통과했지만 상원에서 부결됐다. 샘 알트만 CEO도 연방 프레임워크를 지지해 왔다.

뉴저지의 앤디 김(Andy Kim) 상원의원은 캘리포니아 디지털 연령 확인 법안 버전을 도입했다. 애덤의 부모는 규제되지 않은 AI 컴패니언십의 위험을 알리기 위해 법 제정을 추진했다고 밝혔다. 소비자 선택 센터(Center for Choice)의 제프 체르니아프스키(Jeff Czerniawski)는 청소년이 VPN으로 연령 확인을 우회할 수 있다고 지적했다.

체르니아프스키는 주마다 다른 규칙이 생기면 지리적 분열이 나타날 수 있다는 우려도 제기했다. 캘리포니아는 AI 규제에서 연방 정부보다 앞서 나가는 흐름을 이어가고 있다. 포춘은 오픈AI가 규제 반대에서 협력으로 선회한 사례로 이번 법안을 소개했다.

오픈AI는 법 시행에 맞춰 위기 지원 기능과 연령 확인 체계를 준비 중이다. 이번 입법은 다른 주의 AI 규제 논의에도 영향을 줄 수 있다.

자세한 내용은 포춘(Fortune)에서 확인할 수 있다.

이미지 출처: 오픈AI