[IT동아 강형석 기자] “GTC는 지포스(GeForce)로 시작했다. 첫 지포스 그래픽 처리장치(GPU)를 선보인 지 25년이 지난 현재 전 세계에서 매진될 정도가 되었다. 지포스와 함께 쿠다(CUDA – 엔비디아 프로그래밍 언어)를 소개하기도 했다. 쿠다는 인공지능을 가능케 했고, 인공지능은 컴퓨터 그래픽 기술을 혁신하고 있다. 이제 실시간 그래픽 처리에 인공지능 추론 기술이 적용될 정도로 엄청난 발전을 이뤄냈다. 최근 5년은 생성형 인공지능이 혁신을 주도 중이다. ▲언어 번역 ▲이미지 ▲영상을 만들고, ▲아미노산 ▲단백질 ▲화학물질 등 복잡한 과제를 분석할 수준이 되었다.”

2024년 3월 18일(미국 현지 기준), GTC 2025 기조연설에 나선 젠슨 황(Jensen Huang) 엔비디아 최고경영자(CEO)는 인공지능이 산업 전반의 혁신을 불러왔고 컴퓨팅 방식의 근본적 변화를 이끌고 있다는 점을 강조했다. 그 바탕에는 ▲에이전틱 인공지능(Agentic AI) ▲물리적 인공지능(Physical AI)가 있음을 언급했다.

에이전틱 인공지능은 정교한 추론과 계획, 반복 학습을 활용해 복잡한 문제를 해결하는 인공지능을 말한다. ▲인식 ▲추론 ▲행동 ▲학습 등 4단계 처리과정을 거친다. 물리적 인공지능은 ▲로봇 ▲자율주행 자동차 등에 적용되는 기술이다. 현실 혹은 현실과 동일한 가상 공간을 구축해 인공지능을 학습시키는 것이 중요하다.

젠슨 황 CEO는 인공지능 기술이 더 발전하려면 세 가지 핵심 요소 해결이 필수라는 점을 언급했다. ▲데이터 문제 해결 방법 ▲인공지능 모델 훈련 방법 ▲인공지능 확장 방법 등이 해당된다. 인공지능 업계는 두 가지 문제를 해결 중이다. 학습 시간에 따른 차이가 있지만, 방대한 데이터를 학습하고 훈련하는 과정을 진행하고 있기 때문이다. 문제는 학습과 훈련을 반복한 인공지능의 확장이다. 젠슨 황 CEO는 확장 단계에서 대부분 잘못된 판단을 내렸다고 진단했다.

엔비디아는 더 많은 기업과 개발자가 인공지능 기술을 구축하고 확장할 수 있게 도와주는 개방형 모델 제품 ‘라마 네모트론(Llama Nemotron)’을 제안했다. 메타의 인공지능 대형 언어 모델(LLM) 라마를 토대로 구축된 라마 네모트론은 다양한 사전 학습ㆍ훈련된 데이터를 제공한다.

라마 네모트론은 인공지능 운용 환경에 따라 ▲나노 ▲슈퍼 ▲울트라 등으로 구분된다. 나노는 소형 장비에서 인공지능을 구현하는 데 최적화되었다. 슈퍼는 단일 그래픽 처리장치(GPU), 울트라는 다수의 GPU를 사용하는 대규모 환경에 초점을 뒀다. 인공지능 모델 개발에 필요한 ▲도구 ▲데이터 ▲훈련 최적화 기술 등을 자유롭게 써 자체 맞춤형 추론 모델 개발이 가능하다는 장점이 있다. 엔비디아는 라마 네모트론과 추론 마이크로 서비스(NIM – NVIDIA Inference Microservice) 등을 연계, 인공지능 생태계 주도권을 강화할 것으로 예상된다.

데이터 센터, 2030년까지 지속 성장할 것

젠슨 황 CEO는 블랙웰(Blackwell) GPU 출하량이 호퍼(Hopper)를 뛰어 넘었다고 강조했다. 공개한 자료에 따르면 지난 2024년 클라우드 서비스 제공업체(CSP)의 호퍼 GPU 출하량은 130만 개다. 반면, 2025년 출하를 시작한 블랙웰은 360만 개에 달했다. 자료는 ▲아마존(AWS) ▲마이크로소프트(애저) ▲구글 ▲오라클 등 4개 기업만 놓고 비교한 것이다. 집계에 빠진 소규모 클라우드ㆍ인공지능 서비스 기업을 포함하면 실제 출하량은 차이가 있겠지만, 엔비디아가 단기간에 낸 성과라는 점을 강조하기 위한 것으로 풀이된다.

인공지능의 추론 계산량이 빠르게 증가하면서 시설(인프라) 확충이 필요한 상황이다. 기업들도 공격적인 투자에 나섰다. 메타는 2025년에 인공지능 인프라 확보 목적으로 최대 650억 달러(약 94조 230억 원) 투자를 약속했고, 마이크로소프트도 인공지능 데이터센터에 800억 달러(약 115조 7200억 원)를 쓸 예정이다. ▲소프트뱅크 ▲오픈AI ▲오라클 ▲엔비디아 ▲Arm ▲마이크로소프트 등으로 구성된 스타게이트 프로젝트 역시 총 5000억 달러(약 729조 3500억 원) 규모의 비용을 시설과 장비 투자에 쓴다.

젠슨 황 CEO는 전 세계 데이터 센터 시장은 2030년까지 계속 성장할 것으로 전망했다. 또한 2028년에는 시장의 투자 규모가 1조 달러(약 1458조 7000억 원)에 이를 것이라고 덧붙였다.

데이터 센터 시장 성장의 이유는 크게 두 가지다. 하나는 성장의 가속화다. 일반 PC에서 처리하는 코딩(프로그래밍) 소프트웨어가 ▲전용 인공지능 가속기 ▲그래픽 처리장치(GPU)에서 실행되는 머신 러닝 소프트웨어로 전환되고 있다는 게 이유다. 다음은 인공지능 투자 인식의 증가다. 데이터 검색 기반에서 생성 기반으로 진화하면서 다양한 유형의 정보가 축적되고 재구성되는 과정에서 부가가치가 발생한다. 기업 입장에서 데이터를 정제해 활용하는 것이 성장에 도움이 된다고 보는 셈이다.

엔비디아는 시장이 성장하는 가운데 쿠다(CUDA)가 있다는 점을 강조했다. ▲물리학 ▲생물학 ▲양자 물리학 등 다양한 인공지능 처리구조(프레임워크)를 위한 쿠다(CUDA)-X도 함께 공개했다. 젠슨 황 CEO는 “5년 뒤에는 많은 것들이 쿠다를 통해 처리될 것”이라고 말했다.

데이터 센터 GPU, 루빈 다음은 파인만

차세대 인공지능 가속기도 언급됐다. 엔비디아는 2025년, 호퍼(Hopper) H100ㆍH200과 블랙웰(Blackwell) B200을 공급 중이다. 추가로 2025년 하반기 중에 블랙웰 울트라(Blackwell Ultra)를 투입한다. B300이 될 블랙웰 울트라는 메모리 용량 288GB로 블랙웰의 192GB 대비 50% 증가했다. 인공지능 언어 처리 속도가 1.5배 빨라졌고, 새로운 집중 명령어가 추가됐다. 집중 명령어(Attention Instructions)는 인공지능 활용 시 특정 정보에 집중해 모델 성능을 개선하는 데 쓴다.

블랙웰 울트라 다음은 베라 루빈(Vera Rubin)이 투입된다. 루빈 그래픽 처리장치(GPU)는 288GB 용량의 고대역 메모리(HBM)4 모듈 8개로 구성됐다. 블랙웰 울트라 대비 3.3배 빠른 인공지능 명령어 처리 성능을 제공하는 게 목표다. 베라 중앙처리장치(CPU)는 Arm 기반 코어 88개로 인공지능 연산을 지원한다. 출시는 2026년 하반기 예정이다. 2027년 하반기에는 루빈 칩 2개를 연결한 루빈 울트라(Rubin Ultra)가 출시된다.

루빈 제품군이 모두 완성된 이후인 2028년에는 파인만(Feynman)이 합류한다. 코드명은 미국의 이론 물리학자인 리처드 파인만(Richard Feynman)에서 따왔다. 엔비디아는 2년 주기로 새로운 설계를 적용해 성장성을 증명해 나간다는 방침이다. 하지만 2024년 하반기 출시 예정이던 블랙웰이 설계 결함으로 연기된 바 있기에 차세대 제품의 출하 시기가 지켜질지는 미지수다.

프로젝트 디지츠는 ‘DGX 스파크ㆍDGX 스테이션’

2025년 1월, 미국 라스베이거스에서 개최된 CES 2025에서 젠슨 황 CEO는 개인용 인공지능 개발 시스템인 ‘프로젝트 디지츠(Project DIGITS)’를 공개한 바 있다. Arm 기반 중앙처리장치(CPU)에 블랙웰 그래픽 처리장치(GPU)를 하나로 구성, 소규모 또는 개인 인공지능 개발자에게 공급하겠다는 계획이었다. 프로젝트 디지츠는 ‘DGX 스파크(Spark)’와 ‘DGX 스테이션(Station)’으로 최종 결정됐다.

DGX 스테이션은 블랙웰 울트라(GB300)와 동일하다. 다만 PC 시스템이기 때문에 별도의 메모리가 필요한데 엔비디아는 784GB에 달하는 통합형 메모리를 제공한다. 단일 장비로는 2만 AI TOPS(초당 1조회 인공지능 연산) 성능을 제공한다. DGX 스파크는 DGX 스테이션보다 더 소형화된 시스템이다. 블랙웰(GB10) 기반이며 단일 장비로 1000 AI TOPS 성능을 제공한다.

젠슨 황 CEO는 DGX 스파크와 DGX 스테이션을 “인공지능 시대를 위한 컴퓨터”라고 강조했다. 하지만 휴대성이 전무한 데스크톱 형태이기에 두 제품을 컴퓨터 보다는 개인용 데이터 센터 정도로 보는 게 합당해 보인다. 젠슨 황 CEO가 강조한 인공지능 시대를 위한 컴퓨터는 당분간 전용 처리장비와 일반 PC 시스템이 공존하는 형태가 될 수밖에 없다.

GTC 2025 기조연설은 약 2시간 가량 진행됐다. 젠슨 황 CEO는 ▲인공지능 ▲로보틱스 ▲데이터 센터 등 다양한 신기술과 서비스를 공개하며 분위기를 띄웠다. 하지만 GTC 2025와 함께한 시장의 반응은 다소 시큰둥했다. 이는 루빈에 대한 언급을 제외하면 대부분 CES 2025에서 다뤘던 것들이 많은데다, 투자자 입장에서 중요하게 봤던 장비 공급에 대한 의구심도 깨끗하게 해소되지 않았기 때문이다. 2025년 3월 18일, 엔비디아의 주가는 전일 대비 3.43% 하락한 115.43 달러를 기록했다. 미국 기술주가 일제히 하락한 가운데 나온 결과지만, 하락폭을 줄여줄 것으로 기대했던 투자자 입장에서는 아쉬울 수밖에 없는 부분이다.

IT동아 강형석 기자 (redbk@itdonga.com)