현지 시각 9월 13일 디인포메이션이 보도한 내용이다. 앤트로픽과 오픈AI, 구글이 AI 업계 표준기구를 함께 설립하는 문제를 두고 7월부터 실무그룹 회의를 열어 왔다는 것이 보도의 핵심이다. 매체는 관계자를 인용했고, 세 회사는 공개 확인을 하지 않았다.

논의의 내용은 프런티어 모델을 공개하기 전 거치는 기술 시험과 감사의 틀을 마련하는 것이다. 독립 평가와 출시 전 안전 검토, 표준화된 위험 평가를 공통 절차로 두자는 구상이 논의됐다. 다만 정부가 어느 정도까지 관여해야 하는지, 업계 자율에 어디까지 맡길지를 두고 각 회사가 다른 입장을 밝힌 것으로 전해졌다.

시점이 앞당겨 보도되면서 앞선 발표들과의 관계도 부각됐다. 다리오 아모데이 앤트로픽 최고경영자는 9월 12일 공개한 글에서 민주국가 AI 기업들이 공통 안전 기준을 함께 정하자고 제안했고, 샘 알트만 오픈AI 최고경영자는 그 제안에 동의한다고 밝혔다. 데미스 허사비스 구글 딥마인드 최고경영자도 자신의 뉴스레터에서 프런티어 AI를 위한 업계 단체 구성 방안을 제시한 바 있다.

AI 연구자 게리 마커스는 이 보도를 두고 “AI 기업들은 이미 비공개로 다리오의 구상을 논의하고 있었다”고 포스팅했다.

업계가 스스로 표준을 정하는 방식에는 법적 쟁점이 남아 있다. 경쟁사끼리 개발 속도나 출시 조건을 함께 정하면 미국 반독점법에 저촉될 수 있어, 아모데이는 미국 정부가 안전 관련 논의에 한해 좁은 범위의 면제를 발급해 줄 필요가 있다고 적었다. 디인포메이션은 기사 제목을 ‘AI 업계가 스스로를 규율하려는 비공개 움직임의 내부’로 달았다.

규제 쪽에서도 비슷한 장치가 준비되고 있다. 캘리포니아주는 9월 10일 AI 위험 평가기관과 감사인에 관한 법안 두 건에 서명했고, 오픈AI와 앤트로픽이 모두 찬성 입장을 밝혔다. 미국 백악관은 8월 3일 AI 기업들을 불러 새 모델 시험 프레임워크를 검토하는 회의를 열었으나, 시민단체 25곳 이상은 9월 9일 그 프레임워크가 한 달 넘게 공개되지 않았다며 공개를 요구했다.

자세한 내용은 테크밈에서 확인할 수 있다.

이미지 출처: 이디오그램 생성