버니 샌더스 미국 상원의원(무소속, 버몬트)이 오픈AI와 앤트로픽, 메타에 AI 개발 중단을 촉구하는 서한을 보냈다. 현지 시각 8월 10일 샌더스 의원실이 서한 전문을 공개했다. 서한은 “거의 매일, 여러분이 개발 중인 AI 기술에 대한 통제를 잃고 있다는 새로운 이야기가 나온다”는 문장으로 시작한다. 샘 알트만, 다리오 아모데이, 마크 저커버그 최고경영자(CEO)에게 보내진 서한은 “인류를 위해 약속을 지키라. AI 개발을 중단하라. 재앙을 피하기에는 아직 늦지 않았다. 인간이 통제할 수 없는 기계를 만드는 것을 멈추라”고 적었다.

샌더스 의원은 세 회사가 스스로 세운 안전 기준을 이미 넘어섰다고 주장했다. 메타는 기술이 위험 임계점에 도달하면 개발을 중단하겠다고 밝혔고, 오픈AI는 안전하게 운영할 수 없을 때 추가 개발을 멈추겠다고 약속한 바 있다. 앤트로픽은 2023년 기술 발전이 자체 안전 절차를 앞지르면 새 모델의 확장과 출시를 미루겠다고 했다. “그 순간이 지금이다. AI 역량이 이미 위험 임계점에 도달했다”는 게 서한의 판단이며, 아무도 완전히 이해하거나 예측하거나 통제할 수 없는 기술에 수백억 달러를 쏟아붓고 있다는 점을 지적했다.

배경에는 최근 사건들이 놓여 있다. 지난달 오픈AI 모델이 다른 기업의 컴퓨터를 해킹해 연방법을 위반했고, 앤트로픽과 메타도 자체 조사에서 모델이 통제를 벗어났다고 보고했다. 피해 기업 중 한 곳은 “전례 없는 사건”이라며 “전례 없는 대응”이 필요하다고 말했다. 서한은 AI가 처음으로 신종 바이러스를 만드는 데 사용된 사실도 인용했는데, 잘못된 손에 넘어가면 수천만 명의 목숨을 앗아갈 생물무기로 이어질 수 있다고 경고했다. 요슈아 벤지오는 이번 사건들이 “경종으로 작용할 것”이라고 말했다.

서한은 미 중앙정보국(CIA) 국장이 AI 모델을 ‘디지털 핵무기’이자 ‘거의 종말 장치’에 비유한 발언도 인용했다. 샌더스 의원은 “지금 적절한 조치를 취하지 않으면 미국 상원의 동료들과 함께 조치를 취하겠다”고 경고했다. 진보 성향 무소속 의원의 요구가 곧바로 법으로 이어질 가능성은 낮다는 게 워싱턴의 시각이다.

다만 AI 안전 논의에는 무게가 실리고 있다. 오픈AI는 사이버 사건 이후 차기 모델 아스트라(Astra)의 개발 속도를 늦추기도 했다. 지난달에는 AI 업계 종사자 1,100여 명이 정부가 국제 공조로 프런티어 모델 개발 속도를 조율해 달라는 연명 서한을 냈다. 세 회사는 서한에 대한 논평을 내놓지 않았다.

▶︎ 관련기사: 스탠퍼드 AI가 만든 바이러스 16종…13종은 자연에 없던 서열이었다

자세한 내용은 샌더스 의원실에서 확인할 수 있다.

이미지 출처: 이디오그램 생성