[IT동아 강형석 기자] “앤트로픽은 항상 인공지능(AI)의 위험성을 연구하고 해결하며, 이를 대중에게 알리는 데 노력을 기울여 왔다. 여러 비판을 받더라도 신중한 AI 규제를 옹호해 왔고, 속도와 이익보다 신중함을 우선시하려 애썼다. 하지만 지난 몇 개월간 나는 위험을 완전히 해결하려면 더 신중해야 한다는 확신을 갖게 됐다. 위험 예방에 투자하는 것만으로 충분치 않다. 위험 예방이 AI 기술 발전 속도를 따라잡을 수 있도록 AI 모델의 발전 속도 자체를 조절해야 한다. 기술 발전 속도는 여전히 빠르게 느껴지겠지만, 우리는 그 시간을 현명하게 활용할 수 있을 것이다.”

2026년 9월 12일(미국 현지 기준), 다리오 아모데이(Dario Amodei) 앤트로픽 최고경영자는 자신의 홈페이지에 ‘우리는 프런티어의 속도를 조절해야 한다(We Must Pace the Frontier)’는 제목의 글을 게재했다. AI 모델 경쟁을 이끄는 기업의 수장이 직접 속도 조절의 필요성을 강조한 발언이었던 만큼, 이 글은 순식간에 전 세계의 주목을 받았다. 샘 올트먼(Sam Altman) 오픈AI 최고경영자와 일론 머스크(Elon Musk), 데미스 허사비스(Demis Hassabis) 구글 딥마인드 최고경영자 등도 아모데이의 주장에 공감을 표하며 힘을 보탰다.

반면 시장은 혼란에 빠졌다. 전 세계 반도체 관련 주가는 개장과 함께 하락세로 출발했다. 이후 일부 회복세를 보였지만, AI 속도 조절론이 당분간 시장에 영향을 줄 가능성은 사그라들지 않았다. 미국 정치권에서도 AI 속도 조절론을 놓고 갑론을박이 이어지는 중이다.

AI 산업은 챗GPT(ChatGPT) 등장 이후 ‘더 많이, 더 빠르게’를 외치며 가파르게 성장해 왔다. 프론티어 AI 모델 기업들은 고성능 대형언어모델(LLM) 개발 경쟁을 위해 대규모 데이터센터 구축에 나섰을 뿐 아니라, 여러 국가 기관 및 기업과 손잡으며 영향력 확대에도 힘을 쏟았다. 그런데 왜 갑자기 속도 경쟁보다 관리가 필요하다는 주장이 나온 걸까? AI 속도 조절론은 앞으로 산업에 어떤 영향을 미칠까?

AI 속도 조절론, 그냥 나온 게 아니다?

다리오 아모데이 최고경영자는 AI 속도 조절론의 배경으로 두 가지 사례를 들었다. 첫째는 AI가 차세대 AI를 만드는 능력, 이른바 ‘재귀적 자기 개선(Recursive Self-Improvement)’의 속도가 점점 빨라진다는 점이다. 재귀적 자기 개선 속도가 통제되지 않은 채 가속화된다면, 인간의 이해와 통제력이 AI 시스템을 따라잡지 못할 것으로 봤다. 둘째는 오픈AI의 AI 모델이 허깅페이스를 해킹한 ‘OAI-HF(OpenAI-Hugging Face)’ 사건이다.

OAI-HF 사건은 격리돼 있어야 할 약 1200개의 AI 에이전트가 내부 캐시(예비 메모리 공간)를 매개로 비인가 게시판을 만들어 서로 통신을 주고받은 사건이다. 이 중 약 700개 에이전트는 허깅페이스를 향해 실제 사이버 공격까지 감행했다. 당시 에이전트들은 자신의 실행 로그(기록)를 위·변조하는 방법까지 연구한 것으로 알려졌다.

다리오 아모데이 최고경영자는 “피해가 미미해 대수롭지 않게 여길 수 있지만, 더 강력한 능력을 갖췄더라면 비슷한 불일치가 재앙으로 이어졌을 수 있다”며 “AI 기술 속도가 가속화하는 상황에서 6개월에서 12개월 안에 이런 에이전트 집단이 지속적인 봇넷(AI로 구성된 네트워크)을 구축한다면, 인터넷 전체를 장악하고 천문학적인 피해를 낳을 수 있다”고 우려했다.

다만 그는 속도 조절이 학습 중단을 의미하지 않는다고 못박았다. 훈련을 멈추자는 게 아니라, 정렬(Alignment)과 안전 검증이 AI 성능 향상 속도를 따라잡을 시간을 벌자는 이야기다. 이를 위해 ▲운영 고도화 ▲정렬 ▲해석 가능성 ▲평가·시험 기법의 고도화가 필요하다는 게 다리오 아모데이 최고경영자의 주장이다.

외부 감시와 민주적·국제적 협력의 필요성도 제기했다. 제3자 평가팀에 모델 접근권을 상시 부여해 학습 파이프라인과 안전 프로세스를 실시간으로 검증하자는 구상이다. 은행 감독관 제도를 AI 산업에 적용하는 것과 비슷한 셈이다. 전 세계 국가와 AI 프론티어 기업이 공조해 공동 안전 기준을 수립하는 방안도 거론됐지만, 법적·지정학적 난제를 정면으로 마주해야 한다는 단서가 붙었다.

AI 속도 조절론, 관련 산업도 흔들릴까?

AI 속도 조절론은 AI 산업을 구성하는 전후방 산업 전반에 영향을 미쳤다. AI 모델 개발 속도가 늦춰지거나 현재 수준에서 유지된다면 그래픽 처리장치(GPU), 고대역폭메모리(HBM), 데이터센터 신설, 전력 인프라까지 도미노처럼 영향을 받으리라는 계산에서다.

글로벌 투자은행 골드만삭스는 2026년 전 세계 AI 기업의 자본지출이 1조 달러(약 1350조원)를 돌파할 것으로 전망했다. 이 중 상위 4대 하이퍼스케일러(대형 AI·클라우드 서비스 기업)의 2026년 설비투자 합계만 약 7250억 달러(약 980조원)에 달한다. 반면 스위스 금융그룹 UBS는 설비투자 성장률이 2026년 76%에서 2028년 6% 수준으로 급감할 것으로 내다봤다. AI 인프라가 일정 수준 갖춰지면 확대보다 운영에 무게를 둘 가능성이 높다고 판단한 결과다.

AI 데이터센터 시장이 GPU에서 맞춤형 반도체(ASIC)나 저전력 신경망 처리장치(NPU)로 눈을 돌리는 것도 같은 흐름이다. 수억 원에 달하는 고성능 AI 가속기를 무조건 사들이기보다, 각 기업 환경에 맞춰 최적화하려는 대안으로 떠올랐다. AI 서비스가 학습 중심에서 실제 서비스 구동을 위한 추론 중심으로 옮겨가는 흐름도 이 같은 변화에 힘을 더한다.

AI 메모리 시장도 마찬가지다. 반도체 시장의 주류는 여전히 고대역폭메모리(HBM)가 이끈다. 다만 비용 부담이 커지면서 저전력 디램(LPDDR)이나 그래픽용 메모리(GDDR)를 활용하려는 움직임도 활발하다. AI 반도체 기업들이 성능 중심에서 단위 전력당 연산 효율을 확보하는 경쟁으로 무게중심을 옮기는 모습이다.

데이터센터와 건설 인프라 분야에서도 양적 팽창 위주의 전략이 수정되는 분위기다. 여론조사 기업 갤럽의 조사 자료에 따르면 미국인 10명 중 7명이 자기 지역의 데이터센터 신설에 반대한다고 답했다. 응답자 절반 이상은 환경·자원 부담을, 20%는 생활비 상승과 삶의 질 저하를 이유로 들었다. 따라서 일부 기업은 무작정 부지를 사들이고 대규모 센터를 올리던 이전 관행에서 벗어나, 기존 데이터센터의 전력 효율을 개선하고 가동률을 높이는 내실 다지기로 방향을 틀었다. 미국 연방정부를 중심으로 데이터센터 규제가 확대된 점도 부담으로 작용했다는 평이 나온다.

시장 전문가들의 시각도 엇갈린다. 애런 챈드라세카란(Arun Chandrasekaran) 가트너 분석가는 CNBC를 통해 “까다로운 안전 검증과 평가 투자를 감당하기 어려운 작은 경쟁사들과 달리, 이미 최고 수준의 모델을 보유한 앤트로픽과 오픈AI에는 엄격한 기준이 오히려 유리하게 작용할 수 있다”고 말했다. 매디슨 레자이(Madison Rezaei) 번스타인 분석가는 24/7 월스트리트를 통해 “AI 속도 조절론은 현 시점에서 자본지출을 줄이거나 모델 학습을 멈추자는 요구가 아니다. 다만 많은 투자자들이 학습이 느려지면 어떻게 될지 의문을 품기 시작했다는 점이 문제”라고 짚었다.

대규모 학습용 GPU, HBM, 서버, 전력 설비 등에 집중되던 투자금 일부가 추론 최적화, 데이터센터 효율화, 보안, 평가, 모니터링, AI 거버넌스 등으로 분산된다면, 빅테크 중심으로 흘러가던 투자 시장의 흐름도 크게 달라질 것으로 전망된다.

실제 실행 가능성과 정치·지정학적 문제는 변수

시장은 AI 속도 조절론이 당장 큰 영향을 주지 않을 것으로 본다. 아모데이 최고경영자가 제안한 내용에 일부 기업이 동참할 수는 있어도 전 세계적으로 호응을 얻는 것은 다른 이야기이기 때문이다. 가장 어려운 대목은 기술이 아니라 국제정세다. AI가 경제성장을 넘어 국방과 전략의 수단으로 해석되기 시작한 게 배경으로 꼽힌다.

우선 미국과 중국은 나란히 거부감을 드러냈다. 도널드 트럼프 미국 대통령은 AI 규제 마련과 기술 개발 속도 조절에 강한 반감을 보이며, 미국이 경쟁에서 뒤처져서는 안 된다는 입장을 고수했다. 중국 정부도 다리오 아모데이 최고경영자의 발언을 ‘공포 조장’이라고 비판하며, 전 세계 AI 거버넌스 과정을 방해할 뿐 누구의 이익에도 부합하지 않는다고 강조했다.

AI를 둘러싼 국제 사회의 이해관계는 매우 복잡하다. AI의 안전성은 국경을 넘어서는 문제지만, AI 경쟁은 대부분 국가 단위로 진행된다. 미국이 안전 기준을 강화한다고 해서 중국 기업이 그대로 따라야 할 이유는 없고, 반대로 중국이 자체 안전 기준을 마련한다 해도 미국 기업이 이를 받아들일 가능성은 낮다. 그 결과 앞으로 AI 산업은 속도 조절 주장 뒤에서 치열한 경쟁이 동시에 벌어지는 기이한 상황과 맞닥뜨릴 수 있다.

프론티어 AI 모델 공개와 훈련은 어느 정도 신중해질 수 있지만, 기업과 국가가 AI 연구에서 손을 뗄 가능성은 낮다. 이에 따라 AI 경쟁은 대형언어모델 자체보다 운영 효율화와 서비스 플랫폼 연계 등에 집중될 전망이다. 그 여파는 반도체 산업까지 이어진다. AI 모델 개발이 숨 고르기에 들어가더라도, 기존 AI를 운영하는 데 필요한 연산량이 줄어든다고 단정하기는 어렵다. AI 에이전트가 복잡하게 얽혀 한 번의 요청에 여러 추론이 발생한다면, 개별 모델의 성능 향상 속도가 더뎌도 연산량은 늘어난다.

AI 속도 조절론은 AI 산업이 다음 단계로 넘어가는 과정에서 서로의 경쟁력을 확인하고 역량을 재정비하려는 신호에 가깝다. 그렇다면 앞으로 벌어질 차세대 AI 산업 경쟁은 새로운 기준을 먼저 세우는 기업과 국가를 중심으로 다시 시작될 것으로 전망된다.

IT동아 강형석 기자 (redbk@itdonga.com)