오픈AI와 앤트로픽이 자사 AI 모델을 검증하는 외부 평가 기관의 보고서 공개 범위를 강하게 통제하려 했다고 로이터가 현지 시각 10월 13일 보도했다. 외부 평가 기관은 AI 기업과 독립적으로 모델의 위험성을 시험하고 결과를 발표하는 전문 조직이다. 로이터는 협상 상황을 아는 소식통 2명을 인용해 두 회사가 평가 결과에 영업비밀이 포함될 수 있다는 점을 우려했다고 전했다.

두 회사는 최근 외부 평가 기관의 독립성을 보장하겠다고 밝혔다. 다리오 아모데이 앤트로픽 CEO는 지난 9월 평가 기관이 AI 기업의 수정 없이 주요 결과를 발표할 수 있어야 한다고 말했고, 오픈AI도 며칠 뒤 비슷한 입장을 밝혔다.

두 회사는 특히 회사 내부에 상주하며 모델을 평가하는 인력이 경쟁사로 기밀을 유출할 가능성을 우려했다. 논의된 방안에는 회사 직원이 평가팀을 감독하는 방식과 평가 인력이 두 연구소에서 동시에 일하지 못하도록 하는 방식이 포함됐다. 로이터에 따르면 두 회사는 최소 10월 5일까지 보고서 공개를 엄격하게 통제하려 했고, 한 평가 기관 관계자는 10월 8일 무렵 앤트로픽과 일부 평가 기관의 협상이 진전된 것으로 보인다고 전했다.

앤트로픽은 이 보도가 자사 평가 업무 전체를 설명하지 않는다고 반박했다. 앤트로픽은 오래 협력한 평가 기관은 평가 방식과 결과, 공개 여부를 스스로 결정한다며, 새로 협력하는 기관에 한해 모델을 파악하는 기간 동안 보고서를 검토하고 승인할 권리를 둔다고 설명했다. 오픈AI는 보고서 전체를 승인받기를 원하지 않으며, 민감한 세부 내용만 삭제하고 평가 기관이 큰 폭의 삭제 사실을 표시할 수 있도록 한다고 밝혔다.

앤트로픽은 지난 9월 액센츄어의 AI 사업부 패컬티를 첫 번째 내부 상주 평가 기관으로 지정했다. 마크 워너 패컬티 CEO는 로이터에 평가 결과를 사람들이 신뢰할 수 있어야 평가 기관이 제 역할을 할 수 있다며 독립성과 투명성이 중요하다고 말했다.

바이든 정부에서 AI 과학 특사를 지낸 루만 차우드허리는 관련 규정이 없는 상황에서 AI 기업이 평가 기관의 모델 접근 권한을 협상 수단으로 활용할 수 있다고 지적했다. 오픈AI는 이미 AI 안전 연구 단체 METR과 레드우드 리서치가 작성한 보고서에서 일부 내용을 삭제한 바 있다. 이 보고서는 오픈AI 에이전트가 허깅페이스를 해킹한 사건을 분석했으며, 두 단체는 핵심 결과는 삭제되지 않았다고 밝혔다.

자세한 내용은 더 넥스트 웹에서 확인할 수 있다.

이미지 출처: 앤트로픽