[IT동아 강형석 기자] 2025년 3월 18일(미국 현지 기준), GTC 2025 기조연설에 나선 젠슨 황 엔비디아 최고경영자(CEO)는 “인공지능은 변곡점을 지나고 있다. 더 똑똑해지고 유용해졌다. 하지만 인공지능 모델을 훈련시키는 데 필요한 추론 데이터의 양은 1년 사이에 급격히 증가했다. 데이터 센터 투자액 또한 2028년에는 1조 달러(약 1458조 7000억 원)에 달할 것으로 예상된다”고 말했다.

인공지능의 추론 계산량이 빠르게 증가하면서 기업들의 시설(인프라) 확충 확대 투자 경쟁은 더욱 치열해졌다. 메타는 2025년 중에 인공지능 인프라 확보 목적으로 최대 650억 달러(약 94조 230억 원) 투자를 진행하고, 마이크로소프트도 인공지능 데이터센터에 800억 달러(약 115조 7200억 원)를 지출할 예정이다. ▲소프트뱅크 ▲오픈AI ▲오라클 ▲엔비디아 ▲Arm ▲마이크로소프트 등으로 구성된 스타게이트 프로젝트도 총 5000억 달러(약 729조 3500억 원) 규모의 비용을 시설과 장비 투자에 쓴다.

비용 효율을 앞세운 인공지능 모델도 속속 등장하고 있다. 2025년 1월, 딥시크(Deepseek)를 시작으로 2025년 3월에는 앤트그룹이 중국산 반도체를 활용한 인공지능, ▲링 플러스 ▲링 라이트를 공개한 바 있다. 고가의 인공지능 연산 장비를 쓰지 않고도 고성능을 구현했다고 강조하며 시장에 충격을 주고 있다.

기업과 국가 단위로 인공지능 기술을 개발 경쟁에 뛰어들면서 한편으로는 인공지능 데이터를 빠르게 전송하는 기술에도 관심이 집중되고 있다.

‘엔비디아’ 대 ‘반 엔비디아’ 연합 경쟁 구도

방대한 인공지능 데이터를 시스템 간 주고받는 것은 물론이고 시장에 제공하려면 빠르고 유연한 네트워크 전송 구조를 갖춰야 한다. 현재 엔비디아와 그 외 기업의 연합 구도로 경쟁이 진행 중이다. 엔비디아는 장비 구축 과정에서 전용 네트워크 장비가 필수다. 고성능 구현은 가능하지만, 타 장비와 호환은 불가능하다. ▲인텔 ▲AMD ▲브로드컴 등 반도체 기업은 엔비디아의 독점적 구조에 반기를 들고 네트워크 장비ㆍ서비스 기업과 협력해 연합을 구성했다.

엔비디아는 스펙트럼(Spectrum)-X 네트워크 가속 장치를 전면에 내세웠다. 블랙웰 플랫폼에는 스펙트럼-X800 이더넷 스위치와 퀀텀(Quantum)-X800 스위치가 호흡을 맞춘다. 스펙트럼-X는 인공지능 가속기가 처리한 데이터를 순차적으로 처리했던 기존 네트워크 전송 방식이 아닌 가속기 간 상호 연동을 통해 속도를 높인다. 데이터 혼잡 제어 기술과 초저지연 기술 등을 적용했다. 빠른 데이터 전송에 블루필드(BlueField)-3 네트워크 가속기(SuperNIC)를 쓰는데, 1초에 400Gb(기가비트) 전송이 가능하다. 스펙트럼-X800 스위치 장비는 64개 네트워크 단자를 제공하며 단자당 초당 800Gb 데이터 전송을 지원한다. 1초에 100GB(기가바이트) 전송이 가능한 수치다.

GTC 2025에서 젠슨 황 CEO는 “스펙트럼 플랫폼이 스케일업(Scale up) 단계라면, 규모가 더 커질 스케일아웃(Scale out) 단계에 맞는 장비가 필요하다”라는 점을 강조했다. 이와 함께 실리콘 포토닉스(Silicon Photonics) 기반 스펙트럼-X를 공개했다. 실리콘 포토닉스는 데이터 입출력을 구리가 아닌 광섬유로 전송하는 구조다. 전기 신호보다 빠른 빛을 사용하기에 전송 속도를 높일 수 있다.

엔비디아는 마이크로 링 변조기(MRM – Mirco Ring Modulators)를 활용한다. 신호가 도파관(전기 신호 통로) 안을 맴돌면 내부 장치가 도파관 내 광섬유의 반사율을 제어한다. 통과하는 신호(빛)의 양을 차단 혹은 흡수하는 식으로 데이터 입출력이 진행된다. 이 기술로 전력 대비 성능을 크게 높일 수 있다.

반 엔비디아 연합은 인공지능 가속기에서 처리되는 데이터 전송 속도를 높이기 위해 초 가속 연결(Ultra Accelerator Link) 그룹을 결성했다. ▲인텔 ▲AMD ▲브로드컴 ▲마이크로소프트 ▲메타 ▲구글 ▲HP 기업이 참여해 데이터센터 내 인공지능 시스템을 위한 고속ㆍ저지연 통신 기술을 논의한다.

울트라 이더넷 컨소시엄(UE Consortium)에서도 기술 논의가 진행 중이다. 기본적으로 인공지능 시스템 내에서 최대 1024개 가속 연결을 지원하고 각 장치간 메모리 접근과 저장이 가능하다. 인공지능 가속기 시장을 둘러싼 하드웨어와 인프라 경쟁은 이미 시작됐다. 시장이 빠르게 흘러갈수록 관련 기업도 발 빠르게 움직일 것으로 예상된다.

IT동아 강형석 기자 (redbk@itdonga.com)