6월 12일 금요일, 미국 동부시간 오후 5시 21분. 앤트로픽에 편지 한 통이 도착했다. 미국 상무부가 국가안보 권한을 근거로 발송한 수출통제 지시였다. 며칠 전 공개된 두 모델, 페이블5(Fable 5)와 미토스5(Mythos 5)에 대한 접근을 모든 외국인에게서 차단하라는 명령이었다. 미국 바깥의 외국인만이 아니라 미국 안에 있는 외국인, 그리고 앤트로픽에서 일하는 외국 국적 직원까지 대상에 포함되었다. 실시간으로 외국인 사용자만 골라낼 방법이 없었던 앤트로픽은 결국 전 세계 모든 고객을 향해 두 모델을 통째로 내렸다.

서비스 장애도 아니었고 회사가 스스로 찾아낸 결함 때문도 아니었다. 공개된 지 며칠 되지 않은, 그것도 앤트로픽이 자사 역사상 가장 강력하다고 소개한 모델이 정부의 명령 한 줄에 전 세계에서 동시에 사라졌다. 다른 클로드 모델은 모두 평소대로 작동했다. 가장 높은 곳에 있던 두 모델만 꺼졌다. 공개적으로 배포된 프런티어 모델을 정부가 강제로 내리게 한 사례는 이번이 사실상 처음이다.

대부분의 보도는 이 사건을 한 줄로 요약했다. 프런티어 모델의 탈옥(jailbreak) 가능성을 미국 정부가 국가안보를 이유로 차단했다는 이야기다. 사실관계만 보면 틀린 요약은 아니다. 그러나 이 사건을 그 정도로만 읽으면 정작 이번에 열린 챕터의 본질을 놓치게 된다. 표면의 사유는 탈옥이지만 그 아래에서 움직이는 것은 기술 패권과 AI 주권, 그리고 누가 누구 위에 설 것인가를 둘러싼 국가와 기업의 힘싸움이다.

표면의 사유와 그 아래의 구조

정부가 제시한 근거부터 보자. 앤트로픽의 공식 입장에 따르면, 정부가 우려한 탈옥은 좁고 보편적이지 않은 기법이었다. 특정 코드베이스를 모델에게 읽힌 뒤 소프트웨어 결함을 찾아 고치게 하는 방식이었고, 앤트로픽은 이 정도 능력이라면 GPT-5.5를 포함한 다른 공개 모델에서도 똑같이 끌어낼 수 있으며 실제로 보안 방어자들이 매일 사용하는 작업이라고 반박했다. 미토스 고유의 위험한 능력을 새로 열어주는 보편적 탈옥은 출시 전 미국 정부와 영국 AI안전연구소를 포함한 수천 시간의 레드팀 테스트에서도 발견되지 않았다고 했다.

앤트로픽이 정부 권한 자체를 부정한 것은 아니다. 회사는 정부가 안전하지 않은 배포를 막을 권한을 가져야 한다는 데 동의한다고 밝혔다. 다만 그 권한은 투명하고 공정하며 기술적 사실에 근거한 법적 절차를 통해 행사되어야 하며, 이번 조치는 그 원칙에 맞지 않았다는 것이다. 여기에 한 가지 정황이 더 있다. 일부 보도에 따르면 행정부는 출시 전부터 페이블 공개를 늦추라고 요구했고, 앤트로픽이 이를 거절한 뒤에 수출통제 편지가 날아왔다. 그렇게 보면 탈옥은 갑자기 발견된 비상사태라기보다 이미 진행 중이던 힘겨루기에서 정부가 눌러본 압박점에 가깝다.

흥미로운 역설도 있다. 앤트로픽은 미토스를 처음 소개할 때 너무 위험해서 널리 풀 수 없는 모델이라고 강조했고, 페이블은 그 위험한 능력을 차단하는 안전장치를 덧댄 공개 버전이라고 설명했다. 한 보안 연구자는 이 지점을 날카롭게 짚었다. 보도자료마다 자기 제품을 무기라고 묘사해 놓으면 언젠가 정부가 그 말을 그대로 받아들인다는 것이다. 법적 빌미를 회사 스스로 써 놓고 그것을 브랜드라고 불렀다는 지적이다.

같은 방향으로 노를 젓던 시절

직전 챕터까지 프런티어 AI 기업과 정부는 같은 방향으로 노를 저었다. 둘을 한 배에 태운 명분은 국가 경쟁력이었다. 경쟁국에 맞서 자국이 앞서야 한다는 목표 앞에서 기업의 이익과 국가의 이익은 같은 곳을 가리켰다. 이번 사태의 주인공인 앤트로픽과 미국 정부 또한 마찬가지였다.

그 배에서 가장 큰 목소리로 노를 저은 사람이 다리오 아모데이였다. 그는 2025년 1월 글에서 수출통제가 민주주의 진영을 AI 최전선에 묶어두는 사활적 장치라고 주장했고, 다보스에서는 중국에 첨단 칩을 파는 것을 북한에 핵무기를 팔면서 보잉이 탄피를 만들었다고 자랑하는 격이라고 비유했다. 같은 해 9월 한 행사에서는 중국에 칩을 파는 것이 국가의 미래를 저당 잡히는 일이라고 했다. 칩은 미국이 중국에 대해 가진 거의 유일한 우위이며 반드시 지켜야 한다는 입장이었다. 프런티어 우위를 지키려는 기업의 이해와 지정학적 우위를 지키려는 국가의 이해가 한 문장 안에서 만났다. 국가는 국가대표 기업을 반겼고, 기업은 기꺼이 국기를 흔들었다.

노가 엇갈리기 시작했다

이번 챕터에서 그 노가 엇갈리기 시작했다. 첫 신호는 페이블 사태보다 앞서 있었다. 미국 국방부는 앤트로픽을 공급망 리스크로 지정했다. 통상 적성국에 붙이던 딱지였다. 감시와 자율무기에 AI를 쓰는 문제를 두고 양측 협상이 결렬된 뒤에 나온 조치였고, 이 지정은 방산 계약업체들에게 군 업무에 클로드를 쓰지 않겠다는 확약을 요구하는 효과를 냈다. 앤트로픽은 이를 뒤집으려 소송을 냈고 법적 다툼은 지금도 진행 중이다. 그리고 이번에 페이블5와 미토스5가 내려갔다.

두 사건을 함께 놓고 보면 더 이상 중국에 관한 이야기가 아니다. 위계에 관한 이야기다. 한 지정학 분석은 이번 흐름이 기업에 보내는 메시지를 이렇게 요약했다. 너희는 프런티어 모델을 만들고 자본을 모으고 시장에서 경쟁해도 좋지만, 국가가 너희 기술을 필요로 하는 순간 조건을 정하는 쪽은 국가다.

구조적으로 읽으면 이렇다. 프런티어 기업은 이제 충분히 커졌다. 앤트로픽은 9650억 달러 안팎의 기업가치와 470억 달러 수준의 연 매출 추세를 안고 비공개로 상장 절차에 들어갔다. 정부와 협상하고, 정부를 상대로 소송하고, 출시를 늦추라는 요구를 거절할 만큼 국가와 대등한 행위자처럼 움직이기 시작했다. 정부의 응답은 위계를 다시 일깨우는 것이었다. 기업은 국가와 같은 선 위에 서고 싶어 하고, 국가는 그들이 감히 거기까지 기어오르게 둘 생각이 없다. 이번 챕터의 본질은 바로 이 두 욕망의 충돌이다.

(계속된) 아모데이의 모순, 자신이 벼린 칼

이 대목에서 아모데이의 모순이 선명해진다. 그는 지난 2년 동안 국가가 수출통제를 전략 무기로 휘둘러 달라고 요구해 온 사람이다. 바로 이번 주에도 CNBC 보도에 따르면 G7 비공개 회의에서 그는 미국 주도의 연합을 만들어 프런티어 모델과 칩을 포함한 하드웨어 접근을 중국이 배제되는 방식으로 설계하자고 제안했다. 국가가 문지기가 되어 달라고 누구보다 강하게 외쳐 온 인물이다. 그런데 그 문이 자기 모델 쪽으로 돌아서자 그는 반발했다. 이번 조치를 오해라고 부르며 절차가 투명하고 공정하며 기술적 사실에 근거해야 한다고 요구했다. 사태 직후 앤트로픽 안팎에서는 이런 반응도 나왔다. 중국에는 첨단 칩을 팔자고 하면서 동맹국을 포함한 미국 밖 모두에게는 가장 강력한 모델 사용을 막는 행정부를 어떻게 이해해야 하느냐는 것이다.

이것을 단순히 내로남불이라 부르고 끝낼 수도 있다. 그러나 더 쓸모 있는 독해는 인물의 일관성이 아니라 구조를 보는 것이다. 직전 컬럼에서 나는 프런티어 랩을 이끄는 사람이 속도 조절을 외치는 장면을 다뤘다. 그때 핵심이 그 사람의 진정성이 아니라 그가 서 있는 구조였듯, 이번에도 핵심은 아모데이가 얼마나 일관됐느냐가 아니다. 국가의 재량적 권력은 일단 불러들이고 나면 어느 방향을 향할지 보장이 따라오지 않는다. 경쟁자를 묶기 위해 자기 제품을 무기라고 규정해 주는 순간, 국가가 필요할 때 그것을 무기로 다룰 법적이고 수사적인 명분도 함께 건네는 셈이다. 앤트로픽은 그 명분을 직접 써 놓고 그것을 브랜드라고 불렀다. 자신이 벼린 칼이 자기에게 돌아온 것이다.

초국가 기업이라는 가능성

여기서 한 걸음 더 나가면 흥미로운, 그리고 솔직히 아직은 추측에 가까운 미래가 보인다. 정치 분석가 이언 브레머는 이미 오래전부터 이 기업들이 규제가 닿지 못하는 영역에서 일종의 주권을 행사하고 있다고 말해 왔다. 숫자가 그 직관을 뒷받침한다. 2024년 미국의 민간 AI 투자는 1090억 달러를 넘었고, 같은 시기 미국 정부의 비국방 AI 연구개발 예산은 33억 달러 안팎이었다. 2026년 초 오픈AI 연구자들은 민간 AI 지출이 이제 지구상 거의 모든 나라의 군사 연구개발 예산을 넘어섰을 수 있다고 관측했다. 강대국처럼 돈을 쓰고, 규제기관처럼 표준을 정하고, 주권국가의 대등한 상대처럼 자기 정부를 상대로 소송하는 존재는 이제 한 나라 안의 기업이라기보다 나라에 인접한 무언가처럼 보이기 시작한다.

이미 작동 중인 시제품도 있다. 그것은 AI 랩이 아니라 스페이스엑스다. 스타링크를 통해 한 민간 기업이 여러 나라가 민간과 군사 양쪽에서 의존하는 핵심 통신 인프라를 통제한다. 외교전문지 포린폴리시는 이것을 지정학의 민영화라고 단언했다. 머스크가 우크라이나의 특정 작전 수행 여부를 결정할 수 있게 된 순간, 그 관계는 더 이상 상업적 거래가 아니라 책임지지 않는 한 개인에게 주권을 위임한 상태가 되었다는 것이다. 학자들은 이를 주권의 서비스화라고 부른다. 한 우주정책 전문가의 표현처럼, 이제 머스크는 부유한 민간인이 아니라 지정학적 행위자로 관찰해야 한다.

그래서 이 컬럼이 그리려는 미래는 결코 허황되지 않다. 어쩌면, 정말 어쩌면 앤트로픽이나 스페이스엑스 같은 기업은 특정 국가에 온전히 얽매이지 않는 초국가 기업 혹은 독립 단체에 가까워질 수 있다. 수십 개국의 수억 명이 자사 모델에 의존하고, 그 이해관계가 본국 정부의 전략과 늘 일치하지는 않는 기업이라면, 어느 한 국가의 목줄에서 벗어나려는 동기는 충분하다.

그러나 반대 방향의 힘도 그만큼 분명하다. 국가들은 바로 이 가능성을 정확히 보고 있고, 그것을 막으려 움직인다. 이번 페이블 사태 자체가 그 힘의 작동이다. 누구의 영토인지 일깨우기 위해 목줄을 당긴 것이다. 그뿐이 아니다. 국가들은 어느 한 기업이 결정적 종속 지점이 되지 않도록 병렬 인프라를 짓고 있다. 2025년 12월 워싱턴에서 한국을 포함한 아홉 나라가 서명한 팍스 실리카(Pax Silica) 체제는 AI 인프라 접근을 정치적 동맹 여부에 따라 조건화한다. 유럽연합은 미스트랄을 키우고, 프랑스는 1090억 유로 규모의 AI 패키지를 내놓았으며, 중국과 유럽은 스타링크에 의존하는 대신 자체 저궤도 위성망을 구축했다. 소버린 AI 흐름의 본질은 결국 어느 나라도 금요일 저녁에 모델이 꺼지는 그 고객이 되지 않으려는 몸부림이다.

이번 챕터의 진짜 형태는 그래서 줄다리기다. 기업은 떠올라 자유로워지려 하고, 국가는 그들을 땅에 박아두려 한다. 아직 어느 쪽도 이기지 못했고, 우리는 그 줄의 한복판이 팽팽하게 당겨지는 장면을 지켜보고 있다. 그리고 이것이 과연 미국 정부와 앤트로픽만의 일일까? 절대 아니다. 앞으로 이런 비슷한(혹은 완벽히 똑같은) 사례가 전세계 모든 국가에서 아주 빠르게 발생할 것이다.

그래서 우리는

우리에게, 그러니까 한국의 기업과 실무자에게 이 사건이 주는 교훈은 구체적이고 조금은 불편하다. 앞서 말한 페이블5의 중단 지시가 도착한 금요일 오후 5시 21분은 한국 시간으로 토요일 새벽이었다. 어딘가의 한 팀은 미국 프런티어 모델 위에 업무 흐름을 쌓아 두고 잠들었다가, 자기가 본 적도 없는 편지와 자기가 관여한 적도 없는 국가안보 논리 때문에 토요일 아침 가장 강력한 모델이 그냥 사라진 화면을 마주했을 것이다. 나 또한 마찬가지였다. 기쁜 마음으로 사내의 모든 클로드 기반AI에이전트를 Fable 5 모델로 업데이트하고 24시간 작업지시를 마치고 퇴근한 내가 몇시간 뒤 받은 메일은 작업 완료 보고가 아니었다. 모든 모델이 멈췄다는 비상신호였다.

여러분의 회사에서도, 여러분 개인에게도 이런 일은 언제든 일어날 수 있다. 지금 우리가 쓰는 모델은 우리나라의 모델이 아니다. 우리나라의 모델이 아닌 이상 그 가용성은 상업 변수가 아니라 정치 변수이며, 그 변수는 당장 내일 새벽에도 뒤집힐 수 있다.

그러나 이것이 더 약한 도구로 물러설 이유가 되지는 않는다. 오히려 반대다. 최전선의 능력은 실재하고, 가장 좋은 모델과 그다음 모델 사이의 격차도 실재하며, 손에서 가장 높은 모델을 놓지 않는 실무자가 우위를 이어간다. 그러니 쓸 수 있는 한 가장 높은 모델을 계속 써야 한다. 다만 접근이 언제든 취소될 수 있다는 전제 위에서 설계해야 한다. 지금은 정말로 그런 시대이기 때문이다. 둘 이상의 공급자를 손 닿는 거리에 두고, 프런티어 모델이 자기 스택의 어디에 박혀 있는지, 그것이 하룻밤 사이 사라지면 무엇이 멈추는지를 정확히 파악해 두어야 한다. 그리고 벤치마크를 지켜보는 만큼 이 싸움의 정치도 지켜봐야 한다. 이제 내일 그 모델을 열 수 있을지를 결정하는 것이 더 이상 벤치마크만은 아니기 때문이다.

이 산업의 직전 챕터는 능력에 관한 이야기였다. 누가 가장 강력한 모델을 만드느냐의 경쟁이었다. 이번 챕터는 권력에 관한 이야기다. 누가 그 힘을 쥐도록 허락받느냐, 그리고 누가 그것을 도로 빼앗을 수 있느냐의 문제다. 기업은 국가와 같은 식탁에 앉으려 하고, 국가는 방금 그 식탁을 언제든 뒤집을 수 있음을 보여 주었다. 이 전쟁에서 눈을 떼지 말기를 바란다. 그 다음 수가, 어쩌면 아주 문자 그대로, 당신이 내일 아침 어떤 모델을 열 수 있는지를 결정할지도 모른다.

이 칼럼은 [AI와 인간 사이] 시리즈의 10번째 글입니다.

이미지 출처: 이디오그램