[출처 : 챗GPT 생성 이미지]

뉴욕주 의회가 오픈AI, 구글, 앤트로픽 등 주요 AI 기업의 최첨단 모델이 대규모 재해—예를 들어 100명 이상의 사망·부상 또는 10억 달러 이상의 피해—를 초래하는 것을 막기 위한 ‘RAISE 법안’을 통과시켰다.

이 법안은 AI 안전성을 강조하는 움직임의 중요한 성과로 평가된다. 노벨상 수상자 제프리 힌턴과 AI 연구 선구자 요슈아 벵지오도 이 법안을 지지하고 있으며 뉴욕 시장이 법안에 최종적으로 서명되면, 미국 내 최초로 AI 연구소에 대한 법적 투명성 기준이 마련된다.

법안에 따르면, 대규모 자원(약 1억 달러 이상의 컴퓨팅 파워)을 사용해 훈련된 AI 모델을 뉴욕주에서 제공하는 기업은 모델의 안전성과 보안에 대한 상세한 보고서를 공개해야 하며, AI 모델의 이상 행동이나 도난과 같은 사고 발생 시 이를 보고해야 한다. 

이 기준을 지키지 않으면 뉴욕 법무장관이 최대 3천만 달러의 민사 벌금을 부과할 수 있다.

[출처 : 알렉스 보어스 하원의원 인스타그램]

법안 공동 발의자인 앤드루 구나데스 상원의원은 스타트업이나 학계 연구자들의 활동을 위축시키지 않도록 법안을 설계했다고 밝혔다. 캘리포니아의 유사 법안(SB 1047)이 과도한 규제로 비판받은 점을 보완한 것이다. 다만 실리콘밸리의 반발도 거세다. 

벤처캐피탈 앤드리슨 호로위츠는 이 법안을 “미국을 해치는 어리석은 규제”라며 비판했으며 앤트로픽의 공동 창립자도 “법안 적용 범위가 너무 넓어 중소기업에 부담이 될 수 있다”고 우려했다. 

이에 대해 구나데스 의원은 “소규모 기업에는 적용되지 않도록 설계돼 있다”고 반박했다. 일각에서는 AI 기업들이 뉴욕에서 서비스를 철수할 수 있다는 우려도 제기된다. 그러나 공동 발의자인 보어스 하원의원은 “뉴욕은 미국 내 세 번째로 큰 경제 규모를 가진 주”라며, 기업들이 철수할 가능성은 낮다고 전망했다.

글 / 홍정민 news@cowave.kr

(c) 비교하고 잘 사는, 다나와 www.danawa.com