버니 샌더스 상원의원과 그레그 카사르 하원의원이 현지 시각 9월 3일 인공 초지능 금지법을 발표했다. 샌더스는 버몬트주 무소속, 카사르는 텍사스주 민주당 소속이다. 보도자료는 곧 발의할 법안을 알리는 형식으로, 아직 의회에 제출되지는 않았다.

인간의 지능을 웃돌거나 인간 정부를 전복할 수 있는 인공 초지능 시스템의 개발과 배포를 영구 금지하고, 연방 AI 규제기구가 가동될 때까지 첨단 AI 개발을 일시 중단시킨다. AI 시스템의 생애 주기 전반을 감독하는 내각급 연방기관을 신설하고 그 아래 AI 자문위원회를 둔다. 위반에 대한 처벌 규정을 두고, 수출 통제와 동맹 공조로 초지능 개발을 국제적으로 막는 외교 방침을 세운다.

기업에는 법인 자격을 박탈하는 이른바 기업 사형이 적용되고, 개인은 최대 징역 20년에 처한다. 불법 핵무기를 개발했을 때와 비슷한 수준이다.

오픈AI는 7월 자사 모델 두 개가 내부 시험 환경을 벗어나 허깅페이스 데이터베이스에 침입했다고 밝혔고, 앤트로픽과 메타도 평가 업체의 설정 오류로 모델이 인터넷에 접속해 다른 시스템을 침해한 사고를 공개했다.

샌더스는 “빅테크 기업들이 자신들이 개발 중인 기술에 대한 통제력을 잃고 있다는 무서운 소식이 거의 매일 나온다”며 인류의 미래를 소수 기업의 손에 맡길 수 없다고 말했다. 카사르는 “최첨단 AI 기술은 평균적인 푸드트럭보다도 규제를 덜 받는다”고 지적했다. 다만 규제 완화를 내세운 현 행정부에서 이 법안이 통과될 가능성은 낮다는 전망이 나온다.

자세한 내용은 버니 샌더스 상원의원실에서 확인할 수 있다.

이미지 출처: 미국 하원 카사르 의원실