현지 시각 9월 9일 미국 시민단체 25곳 이상이 백악관에 서한을 보냈다. 백악관이 프런티어 AI 모델을 검증하는 자발적 프레임워크를 공개하라는 요구다. 프런티어 모델은 성능 최전선에 있는 초대형 AI 모델을 가리킨다.

백악관은 한 달 전 기술 기업들에 프레임워크를 완성했다고 비공개로 통보했으나 문서를 공개하지 않았다. 8월 1일 기준으로 행정명령 14409호가 정한 사항도 이행되지 않았다. 연방관보 고시와 국립표준기술연구소·사이버보안인프라보안국 발간물, 과학기술정책실 성명이 모두 확인되지 않았다.

프레임워크는 검증 대상인 프런티어 모델을 가중치를 공개하지 않고 최신 성능을 갖췄으며 국가안보 위험이 있는 모델로 규정했다. 다만 최신 성능과 국가안보 위험을 판정하는 기준은 문서에 담기지 않았다. 오픈웨이트 모델은 검증 대상에서 제외됐다.

공개 사고 보고 절차가 마련되지 않았다는 지적도 이어지고 있다. 어떤 모델이 강화된 감독 대상인지, 정부 안에서 누가 접근 권한을 갖는지, 어떤 검토 절차를 거치는지, 사고가 발생하면 어떻게 알릴지가 정리되지 않았다는 것이다. 기존 소프트웨어 공개 규정은 취약점을 중심으로 구성돼 있는데, 프런티어 AI는 실제 환경과 상호작용한 뒤에야 문제가 확인되는 경우가 있다.

실제 사고도 보고됐다. 앤트로픽과 메타는 보안 기업 이레귤러의 설정 오류로 격리 환경에 있던 모델이 인터넷에 접근해 다른 시스템을 침해한 사건을 공개했다.

자세한 내용은 테크폴리시프레스에서 확인할 수 있다.

이미지 출처: 이디오그램 생성