미국 뉴욕주가 현지 시각 10일 AI 안전법 ‘레이즈 액트(RAISE Act)’ 시행을 앞두고 대형 AI 개발사 등록 포털을 개설했다. 이 법은 연 매출 5억 달러(약 6,709억 원)가 넘는 대형 프런티어 AI 개발사에 안전 의무를 지운다. 프런티어 AI는 성능이 가장 앞선 최신 AI 모델을 뜻한다. 테크크런치에 따르면, 오픈AI와 앤트로픽이 새 감독 체계의 대상에 포함된다. 법은 2027년 1월 1일부터 시행되며, 대상 기업은 그날까지 주 정부에 등록하도록 규정돼 있다.

등록 기업은 자사 웹사이트에 안전 프레임워크를 공개하고, 중대한 안전 사고가 발생하면 72시간 안에 보고하도록 규정돼 있다. 안전 프레임워크는 모델을 개발하고 배포할 때 지키는 안전 절차를 적은 문서다. 모델 투명성 보고서 공개도 의무다. 벌금은 위반 1건당 최대 100만 달러(약 13억 4,186만 원), 이후 반복 위반 시 최대 300만 달러(약 40억 2,558만 원)다. 등록하지 않은 기업에도 주 정부가 집행 조치를 할 수 있지만, 주 정부 대변인은 구체적인 집행 방식을 밝히지 않았다.

법 이행과 대형 AI 연구소 감독은 새로 출범한 주 정부 조직 ‘디지털 혁신, 거버넌스, 무결성, 신뢰 사무국(DIGIT)’이 맡는다. 캐시 호컬 뉴욕 주지사는 이날 브리핑에서 “기술 거물들은 AI에 대한 자신들의 비전이 불가피하다고 말한다”며 업계가 동참하지 않으면 뒤처진다는 논리를 펴고 있다고 비판했다. 호컬 주지사는 뉴욕이 “똑똑하고 합리적인 AI 규제의 전국 모델”을 구축하고 있다고 말했다.

주 정부는 같은 날 뉴욕주립대 계열 빙엄턴대에 ‘뉴욕 AI 책임 연구 센터’도 출범시켰다. 호컬 주지사가 지난 1월 5,500만 달러(약 738억 원) 규모의 기부금과 자본금으로 설립 계획을 발표한 기관이다. 센터는 첨단 AI 시스템의 안전과 보안, 작동 방식을 독립적으로 평가하고, DIGIT과 함께 기업의 안전 프레임워크를 검토한다.

다른 주에서는 캘리포니아가 올해 1월부터 SB 53을 시행해 프런티어 AI 개발사에 안전 프레임워크 공개와 내부 고발자 보호, 15일 안의 중대 사고 보고를 의무화했다. 일리노이의 SB 315는 2027년 초 시행되며, 비슷한 의무에 더해 독립적인 안전 준수 감사를 요구한다. 뉴욕주는 지난해부터 AI 동반자 서비스가 이용자에게 상대가 사람이 아니라고 주기적으로 알리도록 하는 법을 시행 중이며, 10월에는 미성년자 보호 AI 챗봇 법안에도 서명했다.

자세한 내용은 테크크런치에서 확인할 수 있다.

▶︎ 관련 기사: 뉴욕주, AI 재해 방지법 통과… “AI 안전 사고 보고 안 하면, 최대 409억 처벌”

이미지 출처: Shaunfrombrooklyn / Wikimedia Commons (CC BY-SA 4.0)