뉴욕시의회가 도시에서 AI 시스템을 판매하거나 투입하는 기업에 제3자 검증을 요구하는 조례를 포함해 관련 조례 10건을 발표했다. 시의회는 현지 시각 9월 25일 이같이 밝혔다. 조례를 제안한 쪽은 줄리 메닌 의장이며, 10건은 10월 5일 시의원 51명이 모두 참석하는 전체 회의에서 심의된다.

핵심 조례인 도입안 2602는 도시에서 AI 시스템을 광고하거나 판매하고 투입하는 행위를 검증 없이 할 수 없게 한다. 검증기관은 데이터 품질과 편향, 판단 결과, 개인정보와 보안 가운데 시 사이버사령부가 요구하는 항목을 확인하고 이해상충 관계도 밝혀야 한다. 대상 AI 시스템에는 사람이 개입해 가동을 멈추는 킬 스위치를 두고 검증기관이 그 존재를 확인한다. 위반하면 사업자와 검증기관 모두 사례당 2만 5,000달러, 약 3,390만 원의 과태료를 부담한다.

메닌 의장은 직전 주에 다리오 아모데이 앤트로픽 최고경영자, 샘 알트만 오픈AI 최고경영자, 순다르 피차이 구글 최고경영자, 일론 머스크 스페이스XAI 최고경영자, 마크 저커버그 메타 최고경영자에게 각각 편지를 보내 10월 5일 회의에 출석할 것을 요청했다. 그는 이들의 참석을 예상하면서도 시의회가 소환권을 행사할 권한을 남겨 둔다고 밝혔다.

도입안 2605는 AI 기업에서 회수한 과태료의 일부를 내부고발자에게 지급하도록 허용한다. 도입안 2600은 기업이 예상할 수 있었고 합리적인 안전책을 두지 않은 상태에서 안전장치가 우회돼 발생한 피해를 개인이 기업에 청구할 수 있게 한다. 이 조례는 버지니아 멀로니 시의원이 제안했다. 도입안 2601은 도급업체가 AI 안전 사고를 24시간 안에 서면으로 통보하도록 하고, 도입안 2599는 챗봇 사업자에게 데이터 개인정보와 보안, 투명성 기준을 적용한다.

도입안 504는 선거 운동원과 후보가 자신의 모습을 쓴 조작된 음성이나 사진, 영상에 이의를 제기하면 사업자가 차단 수단을 마련하도록 한다. 위반하면 표현 하나당 최대 2,500달러, 약 339만 원의 벌금이 적용된다. 뉴욕시의회는 2025년에도 시 기관의 AI 사용 기준을 정하고 AI 시스템 목록을 공개하도록 하는 법을 제정했다.

기술위원회 의장 카르멘 데 라 로사 시의원은 도심의 미래 센터가 지난달 낸 보고서를 인용해 신입 직무의 기술 고용은 줄고 AI 지식을 요구하는 신입 직무 수요는 증가했다고 말했다. 메닌 의장은 연방 정부의 대응이 이 시기에 맞지 않는다고 말하며 “우리는 혁신을 지지하는 동시에 안전을 지지할 수 있다”고 밝혔다.

자세한 내용은 뉴욕시의회에서 확인할 수 있다.

이미지 출처: AI 생성