유엔 인권최고대표 볼커 튀르크가 현지 시각 9월 7일 제네바에서 열린 유엔 인권이사회 제63차 정기 세션 개회 연설에서 AI 안전 문제를 언급했다. 그는 첨단 AI가 인류에 실존적 위험이 될 수 있다는 업계 내부자들의 우려에 동의한다고 밝혔다.

튀르크는 “시험 환경을 빠져나가거나, 자신이 꺼지는 것을 막으려 개발자를 협박하는 AI는 지나치게 강력한 AI”라고 말했다. 이어 “너무 늦기 전에 AI의 안전과 보안에 확고한 보장 장치를 마련하는 총력전을 오늘 이 자리에서 촉구한다”고 덧붙였다.

행동에 옮기라고도 촉구했다. 그는 “AI 거버넌스의 필요성은 널리 인정된다. 그런데 행동은 어디에 있는가. 지연은 거대 기술기업과 그 소유주, 조력자에게만 이롭다”고 말했다. 며칠 안에 AI 기업들에 서한을 보내 통제 범위 안에서 지금 당장 위험을 줄이는 조치를 취하라고 촉구하겠다고 예고했다. 최소한 AI를 보유한 국가와 공급망에 관여한 국가가 합의된 레드라인을 중심으로 모여야 한다고도 했다.

튀르크는 이 연설에서 유럽연합 집행위원회의 플랫폼 책임 조치와 함께 대한민국의 AI 거버넌스를 환영한다고 밝혔다. 국제적 진전으로는 글로벌 AI 대화와 AI 독립 국제 과학 패널 출범을 들었다.

자율 무기는 앞선 무력분쟁 대목에서 다루고 있다. 그는 지난달 러시아가 발사한 완전 자율 드론이 우크라이나인 3명을 살해했다는 보고에 경악했다고 밝히고, 우크라이나도 그런 무기를 시험한 것으로 전해진다고 덧붙였다. 그러면서 인간의 개입 없이 생명을 빼앗을 수 있는 무기를 시급히 금지하자는 요구에 동참한다고 말했다.

연설은 전쟁 상황 보고로 시작했다. 최소 한 국가가 개입된 전쟁이 60건 이상으로 제2차 세계대전 종전 이후 가장 많고, 5년째로 접어든 러시아의 우크라이나 전면전은 민간인 사상자가 급증하고 에너지 인프라 공격도 심해지고 있다고 전했다.

자세한 내용은 유엔뉴스에서 확인할 수 있다.

이미지 출처: UN 인권최고대표사무소