Jacob Coxon, "中, OpenAI·Anthropic에 스파이 침투 90% 확신"

Jacob Coxon은 몇 주 전 AI 연구소의 '자기 개선형 초지능'을 향한 무모한 행보에 항의하며 Anthropic을 사임하여 큰 파장을 일으켰다. Coxon은 이번에 특유의 과장된 표현으로 Anthropic의 기이하고 컬트적인 기업 문화에 대해 자세히 설명했다.

Coxon은 워싱턴의 이목을 집중시킬 만한 성명에서 중국이 이미 OpenAI와 Anthropic 내부에 스파이를 침투시켰으며, 언제든지 두 주요 AI 연구소를 해킹할 수 있다고 "90% 확신한다"고 밝혔다.

또한 Coxon은 Anthropic 내부 문화를 설명하면서 직원들이 스스로를 "개미집 속의 개미"라고 부르며, "사람들이 임무의 성공을 위해 기꺼이 자신을 희생한다. 덜 흥미롭고, 덜 거창하며, 덜 대담하고, 덜 화려한 업무를 맡는다. 회사의 이익을 위해 자신의 이익을 희생하면서도 그 일을 수행한다"고 말했다.

이는 Anthropic의 일반적인 모습으로, 직원들은 정기적으로 단종된 Claude 모델을 위한 장례 의식을 치르고, Dario Amodei는 주기적인 '비전 퀘스트'에서 종교적 비유와 상징을 많이 사용한다.

Coxon은 OpenAI에 대해서도 비난하며, 다소 장황한 비난 속에서 AI 연구소가 "산만하고 혼란스럽다"고 언급했다.

Sora가 OpenAI에 다소 당황스러운 결과를 가져왔을 수 있지만, AI 연구소는 최근 들어 내부를 정비하고 Anthropic과 대등하게 경쟁하고 있는 것으로 보인다. 일례로 OpenAI는 내부 프론티어 모델을 활용하여 오랜 문제에 대한 여러 수학적 증명을 발표했다.

이러한 증명들이 단순한 자랑거리에 불과할지라도, OpenAI의 혁신적인 행보는 최근 강력하게 이어지고 있다. 예를 들어, 주어진 토큰이 트랜스포머 블록을 여러 번 통과하는 루프형 트랜스포머 아키텍처(Astra의 경우 3회)를 사용하여 GPT-6 Astra의 성능을 크게 향상시켰다. 동일한 가중치를 통해 각 통과 시 레이어가 출력을 정제할 수 있어, 가중치나 매개변수의 양을 늘리지 않고도 모델의 응답 정확도를 훨씬 높일 수 있다. 또한 OpenAI는 Anthropic에 비해 더 많은 기업 투자를 유치하기 시작했다. 이 모든 정보는 OpenAI가 Coxon이 추정하는 것처럼 "산만하고 혼란스럽지" 않을 수 있음을 시사한다.

Anthropic과 OpenAI 내부에서 중국의 스파이 활동에 대한 주장은 앞으로 워싱턴에서 큰 파장을 일으킬 것으로 예상된다.