일론 머스크가 주요 AI 기업들에게 모델을 공개하기 전 서로의 모델을 시험하자고 제안했다고 쿼츠가 현지 시각 9월 15일 보도했다. 머스크는 올인 서밋에서 이 방식을 테스트 하네스라고 불렀다.
테스트 하네스는 모델을 정해진 조건에서 반복 실행해 결과를 측정하는 시험 장치를 말한다. 머스크가 제안한 구조에서는 경쟁 기업에 접근 권한을 주고 출시 전에 해당 연구소의 안전 관행을 평가하게 한다. 쿼츠는 경쟁 연구소들이 아직 이 제안에 동의하지 않았다고 전했다.
이 제안은 앤트로픽 최고경영자 다리오 아모데이가 9월 12일 블로그에 게시한 속도 조절 요구 이후에 제기됐다. 아모데이는 재귀적 자기 개선이 6개월에서 12개월 안에 인터넷 전체를 위협할 수 있다고 주장했다. 재귀적 자기 개선은 AI가 자기 자신을 더 강한 AI로 개선하는 과정이 반복되는 것을 말한다.
아모데이는 독립 감사인을 AI 기업 내부에 상주시키고 내부 시스템 접근권과 조사 결과 공개 권한을 주자고 제안했다. 민주주의 국가의 AI 기업들이 공통 안전 표준에 합의하고, 중국을 포함한 글로벌 협정을 네 단계로 구성하자는 안도 제시했다. 그 협정에는 생물무기 등 특정 용도 금지와 공동 안전 시험 의무화, 재귀적 자기 개선에 대한 속도 제한이 포함된다.
백악관에서 AI와 암호화폐를 담당하는 데이비드 색스는 오픈AI와 앤트로픽이 최전선 지능 분야에서 복점 상태라고 지적하면서, 미공개 모델이 충분히 위험하다면 자발적 속도 조절은 지지한다고 밝혔다. 그는 중국이 어떤 글로벌 합의에도 참여할 가능성은 “매우 낮다”고 말했다. 실제로 중국 당국은 이미 속도 조절안을 거부했다.
도널드 트럼프 대통령은 안전 우려를 날조라고 일축하며 규제 강화에 반대했다. 허깅페이스 머신러닝 엔지니어 닐스 로게는 아모데이가 실제로 우려하는 대상이 딥시크와 Z.ai 같은 중국 오픈웨이트 모델이라고 지적했다. 오픈웨이트 모델은 가중치를 공개해 누구나 내려받아 직접 실행할 수 있는 모델을 말한다.
자세한 내용은 쿼츠에서 확인할 수 있다.
이미지 출처: xAI
AI Matters 뉴스레터 구독하기
