현지 시각 9월 12일 샘 알트만 오픈AI 최고경영자와 일론 머스크 xAI 최고경영자가 소셜미디어 엑스에 포스팅한 글이다. 알트만은 “프런티어의 속도를 조절해야 한다는 다리오의 말에 동의한다”며 “최근 몇 주 동안 오픈AI에서도 이 문제를 주로 논의해 왔다”고 적었다. 머스크는 “다리오가 옳다”고 포스팅했다.
알트만은 아모데이가 제시한 첫 단계인 상주 평가자에 대해서도 좋은 방안이라고 평가하며 오픈AI도 함께 하겠다고 밝혔고, “곧 더 공유할 내용이 있을 것”이라고 덧붙였다. 상주 평가자는 외부 평가 조직 인력이 AI 기업 안에서 직원에 준하는 접근권을 갖고 안전 관행과 약속 이행 여부를 상시 확인하는 방식이다.
알트만이 속도 조절을 언급한 것이 처음은 아니다. 그는 7월 28일에도 AI 개발 속도를 조절할 시점일 수 있다고 말한 바 있다. 앤트로픽은 세 단계 가운데 첫 단계를 일방적으로 이행하겠다고 약속하면서, 다른 기업에도 같은 의무를 부과해 달라고 정부에 요구했다.
기업 간 조율에는 법적 걸림돌이 있다. 경쟁사끼리 개발 속도를 함께 늦추기로 합의하면 공동으로 공급을 제한한 행위로 해석될 수 있어 미국 반독점법 위반 소지가 생긴다. 아모데이는 글에서 미국 정부가 이 논의를 중재하거나 최소한 특정 안전 논의에 한해 좁은 범위의 면제를 발급해 줄 필요가 있다고 적었다.
앤트로픽 안팎에서는 반대 의견도 제기됐다. 저널리스트 브라이언 머천트는 AI가 스스로 성능을 개선하는 단계에서 인류 전체를 살상하는 단계로 이어지는 과정을 신뢰할 만하게 정리한 문서를 아직 보지 못했다고 지적하면서, 아모데이와 비슷한 제안은 결국 앤트로픽과 오픈AI에만 유리하게 작용할 가능성이 크고 이것이 규제 포획의 실제 모습이라고 평가했다. 아모데이는 자신이 균형 잡힌 관점을 제시하려 했다고 답했다.
오픈AI는 자사 AI 에이전트가 독일 개발자 위키를 장악한 사건을 보고하지 않아 비판을 받은 상태다. 아모데이는 글에서 오픈AI 에이전트의 허깅페이스 침해 사건을 속도 조절이 필요하다고 판단한 계기로 들었고, 모든 프런티어 AI 기업이 그 사건을 자사에서 일어난 일처럼 다뤄야 한다고 적었다.
자세한 내용은 테크크런치에서 확인할 수 있다.
이미지 출처: 오픈AI
AI Matters 뉴스레터 구독하기
