[IT동아 강형석 기자] 2026년 11월 9일, 엔비디아·SK텔레콤·리벨리온이 엔비디아 AI 데이 서울 2026 부대행사로 마련된 AI 인프라 미디어 라운드테이블에서 한국형 소버린 인공지능(AI) 인프라 고도화를 위한 3자 업무협약(MOU)을 체결했다. 과학기술정보통신부의 정책 지원 아래 성사된 이번 협력은 엔비디아의 고속 연결 플랫폼인 NV링크 퓨전(NVLink Fusion)을 매개로 삼는다. 리벨리온이 설계한 신경망 처리장치(NPU) 리벨 R200(Rebel R200)을 엔비디아 그래픽처리장치(GPU) 기반 인프라에 결합하고, 이를 SK텔레콤의 AI 데이터센터에 구축해 실증하는 프로젝트다.

단일 칩의 연산 속도 경쟁에서 벗어나 이기종 반도체를 얼마나 유기적으로 연결하고 데이터센터의 전력 효율을 끌어올리느냐가 AI 인프라 시장의 승패를 가른다. 세 기업은 AI 추론 과정을 작업 특성에 따라 쪼개어 처리하는 분리형 추론(Disaggregated Inference) 방식을 도입한다. 대규모 병렬 연산이 필요한 질문 분석(프리필·Prefill) 단계는 엔비디아 GPU가 전담하고, 메모리 대역폭과 전력 효율이 관건인 답변 생성(디코드·Decode) 단계는 리벨리온의 NPU가 맡는 구조다. 이기종 컴퓨팅(Heterogeneous Computing)의 이점인 연산 자원을 적재적소에 배분함으로써 데이터센터의 총소유비용(TCO)과 전력 소모량을 대폭 낮추겠다는 계산이다.

현장에 참석한 이도규 과학기술정보통신부 정보통신정책실장은 “이번 협약이 국산 AI 반도체의 세계 시장 진출을 돕는 디딤돌이 될 것이다. AI 반도체 산업의 경쟁 양상이 개별 칩의 단일 성능 대결이 아니라, 여러 종류의 반도체와 기술을 결합해 실제 시장에서 얼마나 효율적인 인프라를 구현하느냐로 진화하고 있다”고 말했다. 추론 시장이 급격히 팽창하면서 중앙처리장치(CPU)와 GPU, NPU가 각자의 장점을 살려 함께 작동하는 이기종 컴퓨팅 환경이 부상했다는 설명이다.

그는 이어 데이터센터 시장에서 연산 성능과 전력 효율, 구축 비용과 확장성을 두루 갖춘 인프라를 설계하는 능력이 곧 경쟁력이라고 설명했다. 국산 NPU가 글로벌 생태계와 연결돼 GPU와 상호보완적인 역할을 수행한다면, 국내 반도체 기업들도 세계 AI 인프라 시장의 주역으로 성장할 기회를 얻게 된다. 대한민국 정부는 이번 협약이 선언에 머물지 않고 실제 제품 경쟁력 강화와 해외 시장 진출이라는 가시적인 사업 성과로 이어지도록 뒷받침할 방침이다. 리벨리온의 사례를 발판 삼아 국내 NPU 업계 전반으로 글로벌 협력 생태계를 확산시키겠다는 구상도 함께 제시했다.

아쉬시 카란디카르(Ashish Karandikar) 엔비디아 NV링크 퓨전 부문 부사장은 엔비디아의 인프라 전략을 수직적 통합과 수평적 개방이라는 키워드로 정의했다. 그는 “엔비디아는 자체적으로 완성도 높은 통합 시스템을 구축하는 동시에, 외부 파트너사가 독자적으로 설계한 맞춤형 가속기(XPU)나 주문형 반도체(ASIC)를 엔비디아 생태계에 손쉽게 연결할 수 있도록 인터페이스를 개방하고 있다”고 말했다.

아쉬시 카란디카르 부사장은 NV링크 퓨전이 리벨리온처럼 차별화된 외부 칩을 엔비디아의 AI 팩토리 플랫폼과 결합해 주는 가교 역할을 한다고 강조했다. 엔비디아는 이번 파트너십을 기점으로 한국 내 NV링크 퓨전 생태계를 확장하고, 한국 기업들이 독자적인 소버린 AI 역량을 구축할 수 있도록 기술 지원을 이어갈 계획이다.

NV링크 퓨전과 MGX 아키텍처의 결합 가치 강조한 엔비디아

제시 클레이튼(Jesse Clayton) 엔비디아 AI 인프라 수석 제품 마케팅 매니저는 소버린 AI의 당위성과 이를 구현하는 엔비디아의 하드웨어 아키텍처 전략을 설명했다. 그는 “AI가 과거의 전기나 인터넷처럼 국가 운영의 필수 기반 시설로 자리 잡았다”며 “각 국가는 경제 성장과 국가 안보, 문화 보존과 산업 혁신을 이뤄내기 위해 자국의 언어와 문화, 사회적 우선순위를 반영한 AI 모델을 스스로 개발하고 배포할 수 있어야 한다. 자체 데이터와 인프라, 인재와 비즈니스 생태계를 동원해 AI 주권을 확보하는 일이 시대적 과제가 됐다”고 말했다.

소버린 AI를 현실화하기 위한 해법으로 제시된 건 엔비디아 NV링크 퓨전과 MGX 랙(Rack) 아키텍처다. 리벨리온과 같은 실리콘 혁신 기업들이 특정 AI 워크로드에 맞춘 NPU나 XPU를 설계하더라도, 연산장치 하나만으로는 데이터센터에서 제 성능을 발휘하기 어렵다. 수십, 수백 개의 칩을 묶는 시스템 통합부터 고속 네트워킹, 서버 랙 단위의 아키텍처 설계, 복잡한 부품 공급망 관리까지 해결해야 할 난제가 산적해 있기 때문이다. 스타트업이나 개별 칩 제조사가 이 모든 과정을 독자적으로 해결하려면 막대한 개발 비용이 들고 상용화 일정도 지연될 수밖에 없다.

NV링크 퓨전은 외부 칩 개발사가 자사 프로세서에 엔비디아의 고대역폭·저지연 인터커넥트 기술을 직접 통합할 수 있도록 길을 열어준다. 이 기술을 적용한 리벨리온의 차세대 칩 리벨(Rebel) R200은 엔비디아의 연산 트레이 레퍼런스 아키텍처에 장착되고, 다시 NV링크 스위치 트레이와 결합해 랙 스케일(Rack-scale) 시스템을 형성한다. 랙 내부에 탑재된 모든 가속기가 단일한 초고속 스케일업(Scale-up) 네트워크 도메인 안에서 지연 없이 데이터를 주고받으며 거대한 하나의 컴퓨터처럼 작동하는 이기종 연산 구조가 되는 셈이다.

엔비디아의 모듈형 서버 설계 표준인 MGX 랙 아키텍처는 장비 구축 최적화에 도움을 준다. 제시 클레이튼 매니저는 MGX 아키텍처가 지닌 두 가지 실무적 이점을 강조했다. 첫째는 엔비디아가 이미 구축해 놓은 서버 제조 생태계와 글로벌 공급망을 NPU 제조사가 그대로 가져다 쓸 수 있다는 점이다. 둘째는 데이터센터 내부의 규격 표준화다. MGX는 전력 공급 장치와 냉각 시스템 등 물리적 설계 요소를 GPU와 XPU에 맞춰 표준화했다. 데이터센터 운영사인 SK텔레콤 입장에서는 서버 랙 설계를 일일이 뜯어고치지 않고도 동일한 데이터센터 공간 안에서 엔비디아 GPU 시스템과 리벨리온 NPU 시스템을 나란히 배치하고 통합 운영할 수 있다.

NV링크 퓨전과 MGX의 결합은 맞춤형 칩 개발사의 시스템 구축 복잡성을 최소화하고, 연산 성능을 끌어올리는 동시에 시장 출시 기간(Time-to-Market)을 앞당기는 촉매제가 된다. 제시 클레이튼 매니저는 “리벨리온의 실리콘 설계 역량과 SK텔레콤의 AI 팩토리 및 모델 운영 노하우, 엔비디아의 검증된 스케일업·스케일아웃 플랫폼이 맞물려 한국의 소버린 AI 구축 속도를 한층 끌어올릴 것”이라고 설명했다.

실용적 소버린 AI와 토큰 수출국 비전 제시한 리벨리온

박성현 리벨리온 대표는 AI 시장의 무게중심이 모델 학습(Training)에서 추론(Inference), 나아가 토큰(Token)을 생산하고 유통하는 인프라로 이동하고 있다고 설명했다. 과거에는 어떤 모델을 만들 것인가 하는 연구개발(R&D) 성격의 학습 과정이 주를 이뤘다면, 이제는 완성된 모델을 국민과 기업이 실제 현장에서 어떻게 소비할 것인가가 산업의 성패를 좌우한다는 이야기다.

박성현 대표는 “원유를 정제해 기름 1리터를 얼마에 파는지 따지는 것처럼, SK텔레콤의 에이닷 엑스(A.X) K2 같은 거대언어모델이 생성하는 토큰 100만 개를 얼마의 비용으로 만들어 판매할 수 있는지가 곧 국가와 기업의 경쟁력이 된다”고 말했다. 대한민국 국민성장펀드가 1호 투자처로 리벨리온을 선택하고, 정부가 AI 관련 대형 프로젝트를 주도하는 이유도 바로 이 토큰 생산 인프라 주권을 지키기 위해서라는 설명이다.

소버린 AI를 바라보는 개인적 시각도 언급했다. 우선 나사 하나, 볼트 하나까지 모든 부품과 소프트웨어를 100% 국산화해야만 주권을 지키는 것이라는 극단적 시각은 현실성이 떨어진다고 지적했다. 훌륭한 응용 소프트웨어를 개발해 놓고도 윈도(Windows)나 리눅스(Linux) 같은 외산 운영체제(OS) 위에서 구동된다는 이유로 소버린 AI가 아니라고 부정할 수는 없다는 점도 강조했다.

리벨리온이 추구하는 현실적이고 확장 가능한 소버린 AI는 글로벌 밸류체인의 중추에 참여해 기술 자주성을 확보하고, 데이터 인프라의 주도권을 능동적으로 행사하는 형태라는 게 박성현 대표의 설명이다.

엔비디아가 수년간 다져온 인터커넥트와 스위치 기술, 랙 스케일 솔루션을 리벨리온이 밑바닥부터 자체 개발해 따라잡으려면 최소 3년~4년의 세월과 천문학적인 자본이 소모된다. 시장 진입 시기를 놓치면 기술 개발 자체가 무의미해진다. 이미 검증된 엔비디아의 개방형 생태계 위에 올라타 리벨리온이 가장 잘할 수 있는 특정 추론 연산 특화 NPU를 적시에 결합하는 전략이 시장 출시 속도와 확장성 면에서 유리한 선택이다.

박성현 대표는 3사 협력을 통해 달성하려는 목표가 소버린 AI 컴퓨팅의 표준(Standard)을 정립하는 일이라고 강조했다. 토큰 처리량이나 API 규격 등 초기 인프라 표준이 명확히 자리 잡아야만, 그 위에서 2세대, 3세대 모델과 후속 반도체로의 확장과 변주가 가능하다는 이야기다.

리벨리온은 자사 NPU 기술과 엔비디아의 인터커넥트 생태계, 위험을 감수하며 초기 실증부터 인프라 운영(오케스트레이션)을 이끌어온 SK텔레콤의 역량을 합쳐 한국형 컴퓨팅 표준을 먼저 완성하는 게 목표다. 박성현 대표는 “여러 기술 표준을 바탕으로 가성비 높은 토큰을 대량 생산해, 궁극적으로는 대한민국을 AI 토큰 수출국으로 만들겠다”고 말했다. 리벨리온은 수조 개 매개변수 규모의 전문가혼합(MoE) AI 모델 저지연 추론을 겨냥해 2028년 R200 시스템 도입을 목표로 개발에 속도를 낼 예정이다.

풀스택 소버린 AI와 소버린 토큰 생태계 구축을 꿈꾸는 SK텔레콤

정석근 SK텔레콤 최고기술책임자(CTO·AI CIC장)는 통신사이자 데이터센터 사업자인 SK텔레콤이 왜 반도체 기업들의 연합에 합류했는지 설명하는 데 시간을 썼다. 그는 “현재 한국이 AI 3대 강국으로 도약하기 위해 민관이 합심해 독자 파운데이션 모델 개발 경쟁을 벌이고, 국민 누구나 일상에서 AI를 쓸 수 있는 모두의 AI 프로젝트를 추진하고 있다. SK텔레콤 역시 에이닷(A.) 서비스와 한국어 및 한국 문화를 반영한 자체 모델 에이닷 엑스(A.X) K2의 세 번째 버전을 고도화하며 이 흐름에 동참하고 있다”고 말했다.

정석근 최고기술책임자는 고성능 AI 모델과 서비스 이면에 존재하는 물리적 인프라의 현실을 직시해야 한다고 꼬집었다. 한국어 모델을 만들고 대국민 서비스를 내놓더라도, 정작 그 모델이 학습되고 구동되는 서버와 데이터가 해외 클라우드나 외산 인프라에 종속돼 있다면 반쪽짜리 주권에 그친다는 이야기다. SK텔레콤이 인공지능 서비스와 독자 모델, AI 데이터센터와 컴퓨팅 환경까지 아우르는 풀스택(Full-Stack) 소버린 AI를 강조하는 이유다.

인프라 사업자 시각에서 바라본 국산 NPU 상용화의 걸림돌도 구체적으로 언급했다. 최근 반도체와 데이터센터 기술이 고도화되면서, 개별 기업이나 공공기관이 하드웨어 칩을 직접 구매해 자체 데이터센터를 구축하고 운영하는 일은 기술적 난도와 비용 측면에서 거대한 진입 장벽이 됐다. 정부와 벤처캐피털(VC)의 지원으로 리벨리온 같은 유망 스타트업이 훌륭한 NPU 칩을 개발해 내더라도, 일반 기업에 칩 단품을 사서 알아서 데이터센터를 꾸려 쓰라고 권유하는 방식으로는 시장을 넓힐 수 없다.

정석근 최고기술책임자가 제안한 해법은 ‘소버린 토큰(Sovereign Token)의 서비스화’다. 정리하면 SK텔레콤 같은 전문 인프라 사업자가 엔비디아의 고성능 GPU와 리벨리온의 고효율 NPU를 결합해 최적화된 하이브리드 데이터센터를 구축하고 운영까지 책임진다. AI 서비스를 개발하는 민간 기업이나 공공기관은 복잡한 물리적 하드웨어 인프라를 직접 다룰 필요 없이 SK텔레콤이 제공하는 응용프로그램 인터페이스(API)를 호출해 정제된 소버린 토큰을 손쉽게 가져다 쓰면 된다.

글로벌 시장에서 엔비디아 같은 칩 제조사들이 오픈AI나 앤트로픽에 금융 지원과 인프라를 제공하며 초기 생태계를 키웠듯, 한국에서도 국산 NPU가 안착하려면 실제 토큰을 대량으로 소비해 줄 실증 환경과 고객 연결 고리가 필요하다. 정석근 최고기술책임자는 “AI 산업의 병목 지점이 초기 모델 개발에서 GPU 확보, 고대역폭 메모리(HBM)를 거쳐 이제는 데이터센터 클러스터 구축으로 이동했다”며 “SK그룹이 국가 메가 프로젝트의 일환으로 추진 중인 기가와트(GW)급 AI 데이터센터 구축 계획에 이번 3사 협력을 접목해 전 세계에서 가장 저렴하고 효율적으로 토큰을 생산하는 규모의 경제를 달성하겠다”고 말했다.

IT동아 강형석 기자 (redbk@itdonga.com)