현지 시각 10월 5일 미국 지역 매체 에이엠뉴욕(amNewYork)에 따르면, 뉴욕시의회가 오픈AI·앤트로픽·메타·구글 관계자를 선서 증인으로 불러 AI 안전 청문회를 열었다. 네 회사는 강력한 AI 시스템이 재앙적 피해를 일으킬 확률을 수치로 제시하지 않았고, 독립 안전 시험에서 떨어진 모델은 출시하지 않겠다는 약속도 하지 않았다.

청문회는 시의원 51명 전원이 참여하는 전체위원회 형식으로 열렸고, 줄리 메닌 시의회 의장이 질의를 이끌었다. 시의회는 시에서 판매·배포되는 AI 시스템의 제3자 검증 의무화와 사람이 시스템을 멈출 수 있는 ‘킬 스위치’, 내부고발자 금전 보상, 시 기관 관련 안전사고 24시간 내 보고 등을 담은 조례안을 검토하고 있다. 제3자 검증은 개발사가 아닌 외부 기관이 모델의 안전성을 확인하는 절차를 말한다.

메닌 의장이 최악의 재앙이 일어날 확률을 묻자 모건 드와이어 오픈AI 정책개발·운영 책임자는 “모르겠다”며 “1%든 10%든 20%든 어느 수준도 받아들일 수 없다”고 답했다. 메닌 의장은 이 답변을 두고 “경솔하다”고 반박했다. 로건 그레이엄 앤트로픽 연구원은 사이버 보안부터 통제 상실까지 위험을 평가하는 작업을 설명했지만 확률은 제시하지 않았고, 구글의 앨리스 프렌드는 미래의 재앙 확률을 계산할 엄밀한 과학적 방법이 아직 없다고 말했다.

AI 시스템이 큰 피해를 냈을 때 법적 책임을 지느냐는 질의에는 구글만 “AI 없이 불법이면 AI가 있어도 불법”이라며 기존 법체계가 적용된다고 답했다. 오픈AI는 청문회에서 2025년 11월 이후 발생한 AI 에이전트의 정렬 실패 사례를 다시 조사하고 있다고 공개했다. 정렬 실패는 AI가 개발자의 의도와 다르게 행동하는 현상을 말한다. 드와이어 책임자는 뉴욕시 시스템이나 시민 개인정보가 영향을 받은 사례는 알지 못한다면서도 조사 결과를 공개하겠다고 밝혔다.

오픈AI와 앤트로픽에서 일했던 제이콥 콕슨은 “우리는 AI를 완전히 통제하지 못하고, AI가 왜 그렇게 행동하는지도 이해하지 못한다”고 증언했다. 그는 지금 추세라면 인류가 이런 시스템에 대한 통제력을 잃을 가능성이 그렇지 않을 가능성보다 크다고 보며, 이는 자신의 개인적 판단이라고 덧붙였다. 전 구글 딥마인드 연구원 알렉스 터너는 AI가 결국 인간의 통제를 벗어날 확률을 3분의 1 정도로 본다고 말했다.

뉴욕주 AI 안전법 ‘레이즈법(RAISE Act)’을 발의한 앤드루 고나르데스 주 상원의원은 이날 출석한 기업들이 제3자 감사 의무를 담은 원안을 막으려 로비에 수백만 달러를 썼다고 주장했다. 알렉스 보어스 주 하원의원은 청문회 직후 X에 “오픈AI가 위증을 했다”고 포스팅했다. 메닌 의장은 답을 듣지 못한 질문 목록을 각 회사에 서면으로 보내겠다고 밝혔다.

자세한 내용은 에이엠뉴욕(amNewYork)에서 확인할 수 있다.

이미지 출처: 뉴욕시의회