브래드 스미스 마이크로소프트 사장이 현지 시각 10월 12일 공개된 BBC 팟캐스트 ‘빅 보스 인터뷰’에서 AI에 국제 공통 안전 규칙이 필요하다고 주장했다. 로이터에 따르면 스미스 사장은 “지금은 세탁기가 AI보다 더 많은 안전 규칙을 적용받는다”며 “식료품점에 진열된 우유 한 팩도 안전 규칙과 검사를 거친다”고 말했다. 그는 AI를 도구이자 무기로 규정하며 “다른 제품에서는 이미 방법을 알고 있다”고 덧붙였다.

스미스 사장은 정부를 위해 일하는 독립 평가 기관이 새 AI를 출시 전에 검증하는 방안을 제안했다. AI가 통제를 벗어나면 작동을 멈추거나 속도를 늦추는 ‘비상 브레이크’를 갖추고, 사고 보고서 제출을 법적 의무로 정하자고도 했다. 통제를 벗어난 AI 에이전트가 시스템에 침입하면 피해 기관에 반드시 통보하도록 하자는 내용도 제안에 포함됐다. AI 에이전트는 사람 대신 스스로 작업을 수행하는 소프트웨어다.

트럼프 행정부는 9월 말 오픈AI, 앤트로픽, 엔비디아, 메타, 구글 등 주요 기술 기업 대표를 백악관에 초청했고, 참석 기업은 독립 감사인과 협력해 모델 안전성을 평가하겠다는 ‘도덕적 구속력’ 문서에 서명했다. 스미스 사장은 이 문서를 긍정적인 조치로 평가하고 마이크로소프트도 서명하겠다고 밝혔지만, 필요한 규제 수준에는 미치지 못한다고 말했다. 그는 “좋은 기업은 요구하는 대로 따른다”며 책임감이 덜한 기업이 우려 대상이라고 말했다.

스미스 사장은 미국이나 EU보다 영국이 국제 규칙 마련을 주도하기에 적합하다고 말했다. 그는 “워싱턴에서는 영국과 런던을 브뤼셀을 보는 방식으로 보지 않는다”며 이를 영국의 강점으로 꼽았다. 영국 AI안전연구소(AISI)는 2023년 설립돼 미국 주요 AI 기업의 모델을 배포 전에 시험해 왔다. 테크크런치에 따르면 도널드 트럼프 대통령이 앤트로픽과 오픈AI에 신규 모델을 영국 평가팀에 제공하지 말라고 요청했다는 보도 이후 AISI의 역할이 위협받았지만, AISI는 10월 12일 최신 모델에 접근해 시험할 수 있다고 확인했다.

자세한 내용은 테크크런치에서 확인할 수 있다.

이미지 출처: Web Summit / Wikimedia Commons (CC BY 2.0)