도널드 트럼프 대통령이 현지 시각 9월 29일 백악관에서 주요 AI 기업 최고경영자들과 오찬 회동을 한 뒤, 참석 기업들이 자율 통제 협약에 서명했다고 발표했다. 협약의 정식 명칭은 ‘초지능에 관한 백악관 협약: 프런티어 책임에 관한 공동 약속’이다. 트럼프 대통령은 기자들에게 “대단한 자율 규제를 보고 있다”며 “그들은 스스로 규제해야 한다는 것을 알고 있다”고 말했다.

워싱턴 이그재미너가 공개한 협약 전문에 따르면, 프런티어 모델을 학습하고 배포하는 기업은 네 단계의 통제와 감사를 운영한다. 프런티어 모델은 성능이 최상위에 있는 초대형 AI 모델을 말한다. 기업은 먼저 사이버보안과 생물·화학 위협 영역에서 모델의 능력과 정렬 상태를 감시하는 내부 통제를 구축하고, 모델이 의도하지 않은 방식으로 외부 시스템에 침입하지 않도록 관리한다. 정렬은 AI가 사람이 의도한 대로 행동하도록 맞추는 작업이다. 이어 내부 전담팀이 통제 장치의 작동을 점검하고, 독립된 외부 감사 기관이 이를 다시 평가하며, 이사회 산하 독립위원회가 보고를 받아 문제 해결을 감독한다.

협약에는 서명 기업들이 정기적으로 만나 안전 기준과 모범 사례를 마련한다는 내용도 있다. 문서는 “시간이 지나면 이 절차를 법률이나 규정으로 정하는 것이 타당할 수 있다”고 적고 있다. 서명자는 순다르 피차이 구글 최고경영자와 마크 저커버그 메타 최고경영자, 다리오 아모데이 앤트로픽 최고경영자, 일론 머스크 스페이스XAI 최고경영자, 젠슨 황 엔비디아 최고경영자, 그레그 브록먼 오픈AI 사장이다. 회동에는 제프 베이조스 아마존 창업자와 사티아 나델라 마이크로소프트 최고경영자, JD 밴스 부통령, 마이크 존슨 하원의장도 참석했다.

AP통신에 따르면 트럼프 대통령은 회동 후 “법무부와 연방수사국이 있으니 규제는 자동으로 이뤄진다”고 말했다. 데이터센터 건설을 둘러싼 지역 반대를 줄이기 위해 기업들이 지역 학교를 재정 지원하거나 전기요금을 낮추는 조치를 하기로 했다고도 밝혔다. 이날 행정부 관계자들은 인공지능을 ‘슈퍼 인텔리전스’로 부르겠다는 트럼프 대통령의 방침에 따라 행사 내내 이 표현을 사용했다.

같은 날 샘 알트만 오픈AI 최고경영자는 CNBC 인터뷰에서 “우리는 발전 속도를 조절하고 있으며, 때로는 모델을 학습하지 않는 결정도 한다”고 말했다. 워싱턴 이그재미너는 저커버그와 젠슨 황이 그동안 이런 규제에 반대해 왔다고 전했다.

자세한 내용은 워싱턴 이그재미너(Washington Examiner)에서 확인할 수 있다.

이미지 출처: 백악관