15개 이사국으로 구성된 유엔 안전보장이사회가 현지 시각 9월 23일 뉴욕에서 AI와 국제 안보를 주제로 회의를 개최한다. 9월 의장국인 프랑스가 소집했으며, 로이터는 계획을 아는 관계자를 인용해 이같이 보도했다.

샘 알트만 오픈AI 최고경영자가 참석할 예정이고 앤트로픽에서도 고위 관계자가 참석한다. 중국 AI 기업인 딥시크와 문샷은 발언 기회를 초청받았다. 딥시크 창업자 량원펑은 참석하지 않을 전망이지만 계획은 바뀔 수 있다고 로이터는 전했다. 안보리가 미국과 중국의 프런티어 AI 개발사를 한자리에서 직접 부른 것은 이번이 처음이다. 프런티어 AI는 성능 최전선에 있는 초대형 모델을 가리킨다.

회의는 업계 안팎에서 경고가 이어지는 시점에 개최된다. 연구자와 경영진은 더 강력한 시스템이 스스로 성능을 개선하거나 운영자를 속이거나 통제하기 어려워질 수 있다는 우려를 제기해 왔다. 다리오 아모데이 앤트로픽 최고경영자는 최근 개발 속도를 조절하자고 주장했고, 오픈AI는 공통 기술 표준과 중대 사고 보고 체계를 포함한 국제 협력을 제안했다.

미중 논의도 병행되고 있다. 스콧 베선트 미국 재무장관은 양국이 AI 안전 논의를 이어 가기로 합의했으며 약 두 달 뒤 선전에서 후속 회의가 열릴 예정이라고 밝혔다. 논의 대상에는 AI 위험과 중대한 안전 사고 발생 시 사용할 통신 규약이 포함된다. 도널드 트럼프 미국 대통령과 시진핑 중국 국가주석의 회담도 이번 주 워싱턴에서 예정돼 있다.

대응 방향을 두고는 주체마다 다른 입장을 밝혀 왔다. 미국 AI 기업 경영진 일부는 더 강한 안전장치와 국제 협력을 요구했고, 트럼프 대통령은 개발 속도를 늦추는 조치가 중국에 유리하게 작용한다며 반대해 왔다. 중국 관영 매체는 AI 속도 조절 요구를 미국의 기술 우위를 지키려는 의도로 규정했다고 로이터는 전했다.

안보리가 AI를 공식 의제로 처음 다룬 것은 2023년 7월이다. 당시 안토니우 구테흐스 사무총장은 사이버 공격과 허위 정보, 테러 등에 AI가 쓰일 수 있다고 경고했고, 중국 대표는 AI를 양날의 검으로 규정하며 국제 규범 마련을 요구했다.

자세한 내용은 테크스타트업스에서 확인할 수 있다.

이미지 출처: 국제연합