20개국 정상과 유럽집행위원장이 최첨단 AI 모델을 인간의 통제 아래 두자는 선언에 서명했다. 핀란드 대통령실이 현지 시각 9월 21일 공개한 문서의 제목은 「A Call for Control of Frontier AI Models」이며, 노르웨이 총리 요나스 가르 스퇴레와 핀란드 대통령 알렉산데르 스투브가 주도했다. 핀란드는 대통령과 페테리 오르포 총리가 각각 서명해 서명자는 모두 22명이다.

선언의 핵심 문장은 “AI는 인간의 지시와 감독, 통제 아래 있어야 한다. 국제법에 따라 개발되고 사용되어야 한다”이다. 문서는 그 근거로 “최근 우리는 유능한 AI 시스템이 시험 안전장치를 우회하고, 취약점을 악용하며, 실제 시스템에 무단으로 접근하는 것을 목격했다”고 적었다. 특정 사건을 지목하지는 않았다. AI 개발의 속도 조절이나 중단을 요구하는 문구도 없다.

기업에는 투명한 안전 프로토콜 개발을 요구하며 여기에 의무적인 배치 전 시험과 독립 평가가 포함되고, 자격을 갖춘 평가자에게 위험을 평가할 만큼 충분한 접근권을 주라고 적었다. 정부와 지역기구에는 공통 표준을 발전시키고 조율하며 심각한 안전 사고의 공동 보고를 포함해 투명성을 강화하라고 요구했다. 유엔 회원국에는 기존 국제 메커니즘을 토대로 “표준을 설정하고 검증을 가능하게 하며 역량 임계값을 넘어설 때 국가들을 소집할 수 있는 국제 기구”의 창설을 모색하라고 적었다.

서명자 명단에는 스퇴레와 스투브, 오르포 외에 앤서니 알바니지 호주 총리, 마크 카니 캐나다 총리, 메테 프레데릭센 덴마크 총리, 크리스텐 미할 에스토니아 총리, 우르줄라 폰데어라이엔 유럽집행위원장, 프리드리히 메르츠 독일 총리, 크리스트룬 프로스타도티르 아이슬란드 총리, 미하일 마틴 아일랜드 총리, 카심조마르트 토카예프 카자흐스탄 대통령, 윌리엄 루토 케냐 대통령, 에드가르스 린케비치 라트비아 대통령, 마이아 산두 몰도바 대통령, 롭 예턴 네덜란드 총리, 로런스 웡 싱가포르 총리, 페드로 산체스 스페인 총리, 시릴 라마포사 남아프리카공화국 대통령이 포함됐다. 바레인과 튀르키예, 아랍에미리트는 외무장관급이 서명했다. 미국과 중국, 영국, 프랑스, 이탈리아는 명단에 없다. 문서 말미에는 다른 국가 정상의 추가 서명에 열려 있다고 적혀 있다.

공개 시점은 유엔총회 고위급 주간 개막 하루 전이다. 노르웨이 정부는 9월 20일 고위급 주간 우선순위를 설명하며 “인공지능이 안전하고 통제된 방식으로 사용되고 개발되도록 노력할 것이며, 이는 어느 나라도 홀로 해결할 수 없는 큰 도전의 또 다른 사례”라고 밝혔다. 유엔은 이미 독립 국제 과학 패널과 글로벌 대화를 운영하고 있으며, 선언 3항의 ‘기존 국제 메커니즘’이 이를 가리키는지는 문서에 명시되지 않았다.

자세한 내용은 핀란드 대통령실에서 확인할 수 있다.

이미지 출처: 이디오그램 생성