미국과 중국의 안보 전문가들이 군사 AI에 핵무기 통제 방식의 안전장치를 적용하자는 제안을 내놓았다고 로이터가 현지 시각 9월 17일 보도했다. 제안을 작성한 사람은 브루킹스연구소 선임연구원 멜라니 시슨과 푸단대 장톈자오 교수이며, 두 사람의 글은 9월 9일 브루킹스연구소 홈페이지에 실렸다. 두 사람이 참여한 미중 AI·국가안보 대화는 2019년부터 브루킹스연구소 외교정책 프로그램과 칭화대 국제안보전략연구센터가 민데루 재단 지원으로 운영해 온 민간 트랙2 대화다.

제안에는 핵무기 사용을 AI가 자율적으로 결정하지 못하게 하는 명시적 통제선, 핵 지휘통제 시스템을 대상으로 한 AI 기반 사이버 공격에 대한 사람의 단독 결정 권한, AI 사고 전용 군사 핫라인, ‘의미 있는 인간 통제’에 대한 미국과 중국의 공동 정의가 포함됐다.

두 전문가는 AI 시스템이 핵 지휘 네트워크에 개입하거나 군사 사이버 작전을 개시하면 양국 정부가 공격을 받았는지 판단하는 데 몇 분밖에 쓸 수 없다고 경고했다. 장톈자오는 자동화된 사이버 교전이 사람이 개입할 틈 없이 격화될 수 있다고 지적했다. 한쪽의 방어 AI가 의심 활동에 자동으로 대응하면, 다른 쪽은 그것을 공격으로 해석해 상황을 파악하기 전에 보복할 수 있다는 설명이다.

이번 권고는 2024년 11월 조 바이든 당시 미국 대통령과 시진핑 중국 국가주석이 핵무기 사용에 대한 인간 통제를 확인한 합의를 연장하는 내용이다. 공개 시점은 정부 차원의 AI 협의와 9월 24일로 예정된 트럼프 대통령과 시진핑 주석의 회담을 앞둔 때다. 두 나라 정부는 아직 이 제안을 공개적으로 지지하지 않았다.

자세한 내용은 재팬 타임스에서 확인할 수 있다.

이미지 출처: 이디오그램 생성