[IT동아 남시현 기자] 지난 10월 31일 이날 하루, 전 세계인의 이목이 경상북도 경주에 집중됐다. 아시아 태평양 경제협력체(APEC) 회의는 매년 11월 개최되는 정상회의로 아시아 태평양 지역에서 가장 중요한 다자외교 자리다. 아울러 이 기간 동안 대한상공회의소가 전 세계 글로벌 경영진들이 참석하는 ‘APEC CEO 서밋 코리아 2025’를 함께 개최해 전 세계 주요 국가 정상과 기업인들이 모두 경주로 모였다.

APEC CEO 서밋은 최태원 SK 회장 겸 대한상공회의소 회장을 중심으로 구글, 마이크로소프트, AWS, 메타 등의 글로벌 기업은 물론 IAEA(국제원자력기구), OPEC(석유수출국기구), 세계은행, ICC(국제상공회의소) 등의 기관 회장들이 연단에 섰다. 그중에서도 가장 주목받는 인물은 단연 젠슨 황(Jensen Huang) 엔비디아 CEO다. 엔비디아는 오늘날 AI 모델 구축에 반드시 필요한 ‘그래픽 처리 장치(이하 GPU)’의 설계 기업이며, 지난 29일 세계 최초로 시가총액 5조 달러(약 7100조 원)를 돌파하며 전세계적으로 주목을 받는 인물이다.

젠슨 황 CEO “AI 산업적 활용 위한 AI 팩토리 구축해야”

젠슨 황 엔비디아 CEO는 “30년 전부터 우리는 새로운 컴퓨팅 방식을 개발하기 위한 여정을 시작했고, 가속 컴퓨팅이란 개념을 만들어 문제 해결에 나섰다. 무어의 법칙이 한계에 도달하고 트랜지스터의 성능과 전력 이점이 감소했음에도 가속 컴퓨팅 덕분에 앞으로 계속 나아갈 수 있다”라면서 “이 새로운 접근법은 방대한 알고리즘 소프트웨어 개발이 필요하며, 이는 우리의 핵심 자산인 쿠다-X 라이브러리로 이뤄진다”라고 말했다.

이어서 “과거 소프트웨어 기술은 엑셀, 파워포인트, 웹브라우저 등 인간이 사용하는 도구의 개념이었다. 반면 AI는 산업과 역사상 가장 큰 기술 과제를 해결할 능력이 있음을 입증했고 이제 100조 달러(약 14경 2840조 원)를 혁신하고 생산성을 높이는데 기여한다”라고 말했다.

AI가 향후 산업 형태로 활용되도록 AI 팩토리화 되어야 한다고도 말했다. 젠슨 황 CEO는 “인공지능은 에너지를 컴퓨팅 파워로 전환하는 AI 팩토리 형태로 진화해야 하고 엔비디아는 모든 사람이 쓸 수 있는 AI를 위한 GPU AI 슈퍼컴퓨터를 구축한다. 앞으로 엄청난 수의 AI 팩토리가 생성되고, 모든 산업과 애플리케이션이 통합되며 모든 국가가 AI 인프라를 구축할 것”이라는 시각을 공유했다.

AI 팩토리와 인공지능 구축의 핵심에 GPU가 있다. 오늘날 AI 모델을 개발하려면 GPU로 연산을 처리해 AI 모델을 학습하고, 추론한다. 챗봇을 예로 든다면 챗봇에 필요한 데이터를 구축하는 과정부터 일반 사용자가 질문했을 때 대답하도록 하는 기능까지 모두 GPU가 처리한다. 그렇다 보니 전 세계 모든 빅테크 기업부터 국가까지 AI 개발을 위해 GPU 확보에 혈안이 된 상황이며, 수요 폭증으로 인해 가격도 계속 늘고 있다. 그런데 엔비디아가 우리나라에 막대한 양의 GPU를 공급하는 것은 사실상 AI 전용 차선을 놔주는 것이나 다름없다.

AI 팩토리, 동맹 관계 공고해지지만 진입 장벽 높아질 수도

엔비디아는 총 26만 대의 GPU를 국내 주요 기업과 정부에 공급하고 한국을 세계 최대 AI 인프라 국가 중 하나로 만들겠다고 선언했다. 26만 개의 GPU 중 6만 개는 네이버에 공급하며 삼성도 5만 개의 GPU를 바탕으로 디지털 트윈 기술을 접목한 파트너십과 AI 팩토리 공동 구축에 힘쓸 예정이다. SK그룹도 HBM 메모리 공장과 디지털 트윈을 구축하고, 5만 개의 GPU를 기반으로 하는 AI 팩토리를 구축한다.

현대차 그룹도 5만 대의 GPU를 할당받고 자율주행차 관련 기술과 공장의 디지털 트윈 전환, 향후 로봇 생산 시설 변모를 꾀한다. 한국에서 AI 연구자들과 협력하고, 대학과 스타트업이 AI의 혜택을 받을 수 있는 환경을 조성한다. 정부와 교육기관과 협력해 풍부한 AI 생태계를 만들겠다고도 덧붙였다. 산업 측면에는 제조부터 첨단 산업 전반이 강화되고, 고부가가치 산업의 가치 확대로 이어질 수 있다.

반면 AI 팩토리를 구축하지 않는 기업들의 경쟁력이 상대적으로 약화할 수 있음은 경계해야 한다. AI 팩토리를 도입하면 반도체부터 소프트웨어까지 전반적으로 AI의 도움을 받아 생산성이 향상되지만 이를 적용받지 못하는 기업들이 상대적으로 그 수준이 떨어질 수 있다.

GPU 26만 장, 경쟁력 강화 측면에선 세계적인 수준 확보

젠슨 황 CEO가 말한 GPU 26만 장은 어느 정도 규모 일까. 연평균 34.4%씩 성장하는 인도도 2027년까지 약 8만 개의 GPU를 확보하는 게 목표고, 영국도 2026년 말까지 12만 개의 블랙웰 GPU를 받기로 했다. 사우디아라비아도 현재 국영 AI 기업인 휴메인에는 1만 8000대의 GPU가 공급된 상황이다. 하정우 대통령실 AI미래기획수석은 "확보량 기준으로 우리나라가 세계 3위가 된다는 의미"라고 말했을 정도의 수량이다.

현대차가 5만 장을 받기로 한 상황만 놓고 봐도 경쟁력의 큰 향상을 기대할 수 있다. 일론 머스크 테슬라 최고경영자는 지난해 4월 실적발표 당시 현재 3만 5000개의 엔비디아 H100을 운영 중이고 연말까지 8만 5000개를 확보하겠다고 밝혔다. 이번에 현대차가 받게 되는 5만 개의 그래픽 카드는 H100 다음 세대 제품으로 5만개다.

엔비디아 H100과 블랙웰의 대표 제품인 B200은 스펙상 B100의 메모리 용량과 대역폭은 약 2.4배, 범용 연산 성능 차이도 정밀도에 따라 1배~2배 정도 높다. AI 모델 성능이나 효율 등으로 따졌을때 현대차가 5만 장의 GPU를 공급받으면 테슬라의 GPU 역량과 비슷한 선상에 놓인다. 개발 역량 등에 따른 격차는 있지만 장기적으로 현대차의 글로벌 경쟁력 및 상품성 강화에 직접적으로 영향을 미칠 전망이다. 네이버와 SK하이닉스, 삼성전자도 경쟁사 대비 우위를 점할 수 있게 된다.

모든 GPU 활용 위해 전력 수급·위치 선정 중요해져

하지만 이 모든 GPU를 인도받더라도 완전히 다 활용할 수 있을까도 관건이다. 11월 3일, 사티아 나델라 마이크로소프트 CEO는 샘 알트만 오픈AI CEO와의 인터뷰에서 AI 산업의 문제점은 컴퓨터 공급 과잉보다는 모든 GPU를 수용할 전력 부족이라고 답했다. 이미 MS는 일부 AI GPU에 대한 전력 부족이 현실화됐고, 이미 뜯지도 않은 칩이 재고로 쌓여있을 수 있다고 발언했다. 실제로 젠슨 황 엔비디아 CEO는 지난 6월 대만AI포럼에서 대만 정부의 탈원전 기조로 인한 전력 부족이 향후 AI 슈퍼컴퓨터 구축에 발목을 잡을 수 있다고 우려를 표한 바 있다.

우리나라는 2024년 6곳의 원전과 24기의 원자로를 가동해 세계 6위의 원전 운영 국가지만 GPU 25만 장을 상시 운용하기는 쉽지 않다. 블랙웰 25만 대를 운용하는 데이터센터의 전력 소모를 약 0.58GW에서 0.63GW로 설정한다면 1년에 서울특별시의 10%, 광주광역시의 절반에 가까운 전력 소모가 꾸준히 발생한다. GPU를 우선 공급받게 되면서 가장 큰 난제인 수급 문제는 해결됐지만, 앞으로 받게될 수십만 대의 GPU를 어느 지역에 어떻게 배치하고, 전력 수급을 어떻게 할지에 대해서는 구체적으로 논의되지 않은 상황이다.

AI 개발 종속 가능성··· AI 반도체 기업 보호 대책 구축해야

퓨리오사AI, 리벨리온 등 국내 AI 가속기 기업들 입장에서는 전략을 다시 잡아야 할 수 있다. GPU는 AI를 학습하고 추론하는 기능에 모두 쓸 수 있다. 하지만 가격이 워낙 비싸다 보니 추론 환경은 GPU 대신 NPU를 활용하려는 움직임이 있었고, 이런 수요가 NPU 업체들 입장에서는 더욱 늘어나야 하는 상황이다.

그런데 안정적으로 GPU를 활용할 수 있다면 NPU를 대체하려는 움직임은 줄어들 수밖에 없다. GPU 대신 NPU를 활용하려면 AI 구축 환경부터 모델 호환성 등을 전반적으로 개선해야 한다. GPU 공급이 여유롭다면 엔비디아 이외 제품을 쓸 이유 중 하나가 줄어든다. 지금도 엔비디아가 국내 AI 생태계의 가장 큰 축으로 통하는 상황에서 더 점유율을 높인다면 국내 AI 반도체 시장 자체가 고사할 수 있다. 이를 방지하려면 정부 차원에서 국산 AI 반도체가 성장할 수 있는 수준까지 생태계 성장을 지원해야 한다.

이 기회를 잘 살리기 위해서는 GPU를 안정적으로 활용하고 배치하는 것은 물론, 대기업을 포함한 많은 AI 기업들이 다 함께 수혜를 볼 수 있는 구조가 필요하다. 그러면서도 자립해서 성장하고 있는 국내 AI 반도체 생태계가 무너지지 않도록 이들을 위한 수요와 공급도 적절히 제공해야 한다. 수많은 AI 인프라를 운용할 고급 인력 양성과 개발자 지원도 필요하다. 주사위는 던져졌다. 이제 그 숫자가 몇이 나올지는 대한민국의 AI 생태계에 달렸다.

IT동아 남시현 기자 (sh@itdonga.com)