미국 상무부 산하에서 AI 모델의 안전성을 평가하는 초지능 표준 혁신 센터(CAISSI) 직원들이 최근 백악관의 한 부서에 비공식으로 보고하라는 요청을 받았다고 AP통신이 현지 시각 11월 8일 보도했다. AP는 진행 중인 논의를 아는 전직 관리 2명을 인용했으며, 이들은 현직 직원들이 불이익을 받을 수 있다는 이유로 익명을 요구했다.

CAISSI에서는 4월 새로 채용한 소장이 며칠 만에 해임되고 후임도 몇 달 만에 사임해, 현재 상임 책임자 없이 상위 기관장이 소장 업무를 겸하고 있으며, AP통신은 센터가 연구 결과 공표도 멈춘 상태라고 전했다. 오픈AI도 이 센터에 더 많은 자금과 지원을 요청한 것으로 전해졌다. 8월에는 미국 의회가 이 센터가 일부 AI 시스템의 안전성 보고서 공개를 중단한 이유를 묻기 시작했다. 연간 예산은 1,000만 달러(약 136억 원)로, 영국의 같은 역할 기관 예산의 약 8분의 1 수준이다.

AP는 자동차 안전은 고속도로교통안전국(NHTSA)이 직접 충돌 시험을 하고 기준을 정하지만, AI는 기업이 사실상 스스로 안전을 관리하는 구조라고 지적했다. 바이든 행정부 시절에는 주요 AI 기업들이 이 센터에 모델 정보를 공유하는 자발적 협약을 맺었다. 트럼프 대통령은 9월 AI 기업들에 자발적인 안전 협약을 요청했지만 이행을 어떻게 점검할지는 공개하지 않았다.

백악관은 CAISSI에 관한 구체적인 질문에 답하지 않았다. 대신 성명을 통해 국가정보국(DNI) 국장 제이 클레이튼이 이끄는 초지능 태스크포스를 설치했고, 대통령 과학기술자문위원회에 AI 위험 보고서를 의뢰했다고 밝혔다.

미국과학자연맹의 캐롤라인 시겔 싱은 정치와 무관한 기술 전문가가 정책을 집행할 필요가 있다며 독립성 훼손을 우려했다. 반면 백악관과 가까워지면 센터의 위상과 예산이 커질 수 있다는 의견도 있다고 AP는 전했다. UC 버클리의 사야시 카푸어는 AI 에이전트가 실제 작업에서 거친 모든 단계를 검증하는 표준 절차가 아직 없어, 최종 결과만 확인해서는 에이전트의 큰 실수를 알아차리기 어렵다고 지적했다.

자세한 내용은 AP통신에서 확인할 수 있다.

▶︎ 관련 기사: 美 정부, AI 모델 검증 기관 간부 3명 백악관 소속으로 이동

이미지 출처: 미국 국립표준기술연구소(NIST)