[IT동아=샌프란시스코] AMD CPU 및 GPU, 인프라 하드웨어 집약체인 ‘헬리오스’가 현지시간으로 7월 23일 전 세계 시장에 정식 출시된다. AMD는 현지시간으로 23일에서 24일 개최되는 ‘AMD 어드밴싱 AI 2026’에서 헬리오스 서버랙을 정식 공개하고 올해 중 고객에게 인도하겠다고 발표했다.

리사 수 AMD 최고경영자는 “우리는 수십억 명들이 매일 사용하는 디지털 플랫폼에 제품을 공급 중이며, 포춘 100대 기업의 60% 이상이 AMD의 핵심 시스템을 활용 중이다. 지난 분기에 서버 시장에서는 46%라는 기록적인 점유율을 달성했으며 모든 고객사가 더 많은 제품 도입을 고려 중이다. GPU 측면에서도 세계 최대 AI 연구소, 클라우드 제공 업체, AI 스타트업과 국가 기관까지 폭넓은 고객층이 인스팅트 GPU를 활용하고 있다”라며 도입 상황을 소개했다.

이어서 “이제 AI 연산은 훨씬 더 복잡해지고 있으며 최첨단 AI 기술들은 인프라가 갖춰야 할 요구사항을 계속 늘리고 있다. 이에 필요한 것이 하나의 단일 서버다. 제품군 하나에 최첨단 CPU와 GPU, 렉 내부에 데이터센터 전체를 연결하는 고속 네트워크, 유지 보수와 안정성까지 모든 것이 헬리오스를 통해 구현된다. 헬리오스는 세계에서 가장 까다로운 최첨단 모델을 대규모로 학습하고 실행할 수 있다. 헬리오스에는 인스팅트 GPU와 네트워킹용 펜산도 칩, 베니스 기반의 에픽 CPU까지 업계 최고 성능의 제품들로 구성돼 있다”라며 발표를 소개를 시작했다.

AMD 인프라의 정수, 헬리오스 렉 정식 출시

헬리오스는 2025년 메타가 제안한 오픈 렉 와이드 사양을 기반으로 설계된 서버 시스템이며 지난해 같은 행사에서 처음 발표됐다. 당시에는 AMD 인스팅트 MI400 시리즈와 에픽 CPU, 펜산도 DPU 등을 탑재할 것이라며 간단한 사양만 공개됐고, 올해 초 CES에서 72개의 AMD 인스팅트 MI455X GPU와 18개의 베니스 CPU를 탑재하겠다며 상세 사양을 소개했다. 다만 올해 초 기준으로도 CPU와 GPU가 출시 전인 상태여서 사실상 이번 어드밴싱 AI에서 공개되는 것이 완성형 ‘헬리오스’라고 볼 수 있다.

헬리오스의 핵심은 AMD EPYC CPU와 인스팅트 GPU, 펜산도 DPU 등의 하드웨어와 AMD의 AI 프레임워크인 AMD ROCm까지 통합된 추론용 서버 완제품이다. CPU 시장 점유율 넓혀온 AMD가 GPU와 AMD 소프트웨어 생태계까지 하나의 렉으로 통합해서 판매하겠다는 전략이다. 하드웨어는 최대 72개의 GPU를 장착하며 31TB의 막대한 HBM4 메모리를 갖춘다. 이때 GPU당 메모리 대역폭은 초당 19.6TB며 최대 43TB의 스케일 아웃 대역폭이 적용된다. 처리 성능은 FP4 기준 초당 2.9 엑사플롭스, FP8 기준 1.4 엑사플롭스를 발휘한다.

단일 블록에는 4개의 AMD 인스팅트 MI 455 GPU가 탑재되며, CPU는 AMD 에픽 9006 SP7 하나를 사용한다. 스케일 아웃 네트워크는 최대 세 장의 AMD 펜산도 불카노 800 AI-NIC이 사용되고, 프론트앤드는 AMD 펜산도 셀리나 400 DPU를 장착한다. 스위치 트레이는 2개의 512레인 200G UALoE 스위치가 탑재된다.

AMD, 앤트로픽·오픈AI·메타 등 대형 고객사 마련해

발표에 앞서 AMD는 앤트로픽에 최대 50억 달러(약 7조 4000억 원) 규모의 투자를 약속했다. 이는 AI 업계에서 AI 반도체 독점 의존도를 낮추고 막대한 인프라 구축 비용에 대한 보조를 맞추기 위함이다. 앤트로픽은 AMD의 헬리오스 및 인스팅트 MI 시리즈 도입은 물론 ROCm 소프트웨어 생태계 지원 부분에서도 협력한다.

앤트로픽 공동 창업자 톰 브라운은 “우리 업계가 성장하고 있는 규모를 고려할 때 우리는 최고의 칩들을 확보하고 최적의 작업 부하를 견딜 칩이 필요하다”라면서 “우리가 염두에 두었던 것들을 개발할 때마다 많은 노력이 필요하지만 AMD가 MI355를 비롯한 랙을 제공해 주신 점에 감사하다”라며 감사 인사부터 전했다.

리사 수 CEO가 파트너십에 대한 설명을 부탁하자 “규모 확장을 위한 협업이 가장 기대하는 부분이다. 우리는 더 크고 나은 컴퓨팅 성능을 활용함으로써 더 좋은 모델을 만들 수 있고, 그 모델이 하위 단계에서부터 더 많은 가치를 창출하는 것을 볼 수 있다. 또한 보안 분야에서도 더 많은 투자와 협력이 이뤄질 수 있다. 칩 계층, 서버, 랙, 전체 네트워크 분야에서 협력할 수 있으며 이는 전체 산업에 도움을 줄 수 있다”라고 말했다.

오픈AI, MI355부터 꾸준히 AMD와 협력··· GPT 서비스도 실행 중

리사 수 CEO는 “기쁜 소식은 최대 규모의 AI 연구소에서부터 하이퍼스케일, 네오 클라우드까지 헬리오스에 대한 고객 수야가 매우 높다. 우리는 전 세계 OEM, ODM 파트너와 협력해 헬리오스 확산에 힘쓰고 있는데 이를 가장 먼저 추천한 파트너가 오픈AI다”라며 사친 카티(Sachin Katti) 오픈AI 컴퓨터 전략 부사장을 무대로 올렸다.

사친 카티 부사장은 “우리는 모델들이 더 유능해지고 능동적이며, 긴 시간동안 시험하기 위해 컴퓨팅 규모를 계속 확장하고 있다. AI 배포 범위가 넓어질수록 사람들은 더 많이 활용하려고 하며 이는 곧 예산 증가로 나타났다”라면서 “AMD는 플랫폼의 성장 속도와 확장할 수 있도록 보조를 맞춰왔고, 작년에 우리는 6GW 규모의 AMD 인프라 파트너십을 발표한 이후로 계속 협력 중이라면서 “15개월 전부터 MI355를 최초로 활용했으며 AMD 엔지니어들과 긴밀히 협력해 GPT 워크로드를 실행 중이다. 헬리오스의 기능에 대해서도 매우 기대하고 있다”라고 말했다.

이어서 “AI의 궁극적인 전략은 스스로 시스템을 실행하고 개선하며, AI가 자체적으로 연구를 수행하는 것이다. 오늘날 엔지니어들은 새로운 모델이 하드웨어에서 효율적으로 실행하도록 최적화하는데 엄청난 시간을 투자하며, 고무적인 점은 프로그래밍 상당 부분을 자동화할 수 있는 잠재력을 확인하고 있다”라고 말했다.

마지막으로 “우리는 워크로드에 대한 지식과 앞으로 다가올 변화를 바탕으로 미래를 어떻게 설계할지 고민해야 한다. CPU부터 GPU, 메모리 네트워킹, 스토리지, 데이터 센터의 전력 분배 및 냉각 시스템에 이르기까지 모든 것을 공동으로 협력하고 있다. 앞으로 수많은 시스템을 다루며 인간의 한계에 얽매이지 않고 AI로 작업을 수행하는 세계가 오기를 기대하겠다”라고 말했다.

MI300부터 공동 설계 협력한 메타, MI450은 광범위한 도입 예고

산토시 야나르단(Santosh Janardhan) 메타 인프라 부문 대표는 “페이스북, 인스타그램 등 어떤 플랫폼을 사용하든 개인화된 맞춤형 서비스를 제공하는 것이 우리의 목표이며 해외 마케팅 자체에 최고위급 차원에서 전략을 수립 중이다”라면서 “다만 우리가 예전에 주로 다뤘던 영역에서 벗어나 서버, 하드웨어, 네트워킹, 전력 등 전체 시스템을 고려해야 하는 시점에 도달했다”라면서 “메타가 AMD 같은 파트너와 협력하는 것은 엄청난 기회가 되며 무언가를 단순히 배포하는 것을 넘어 새로운 시스템을 공동으로 설계하고 만들어나가는 차원의 작업”이라고 말했다.

특히 메타는 헬리오스 렉의 규격인 락스케일 OCP를 공동 설계하고, 베니스 CPU 배포에 참여하는 등 긴밀히 협력 중이다. 이와 관련해 ”메타와 AMD의 파트너십은 2세대부터 시작했으며 그사이 GPU가 게임뿐만 아니라 모두를 위한 제품이 되었다. 그렇기에 CPU는 점점 더 중요해지며 노동력의 소모를 해결하기 위해 CPU와 GPU를 통합된 요소로 다루는 중”이라고 말했고, MI300부터 지금까지 꾸준히 AMD과 기술적으로 교류하며 피드백을 전달했다고 말했다.

인스팅트 MI450과 관련해서는 “우리는 이 시스템을 전면 도입할 예정이다. MI300에서 최신 모델로 갈수록 AMD가 엔지니어들의 의견을 더 적극적으로 수용하고 피드백을 반영함을 느낄 수 있다. 공동 설계와 공동 제작은 진정한 협업의 기회를 제공하며 앞으로 엄청난 규모의 도입으로 이어질 것”이라고 말했다.

헬리오스로 AMD 풀스택 AI 인프라 전략 완료, 피지컬 AI도 시작

헬리오스는 AMD가 지난 10여년 간 진행해온 사업의 집약체다. AMD는 2022년 펜산도, 2024년 ZT 시스템스를 각각 인수했다. 펜산도는 현재 헬리오스의 데이터 처리 및 네트워크 장치인 펜산도 DPU, AI-NIC 등을 담당하고 있으며 ZT시스템즈는 서버 인프라 및 랙스케일 설계 역량을 통해 향후 데이터센터 구축 등에 대응할 기반이다. 그러면서 2023년과 24년에 각각 노드.AI, 사일로AI를 인수하며 ROCm에 해당하는 AI 생태계 및 소프트웨어 역량도 강화해 왔다. 이번에 AMD 인스팅트 MI455X와 6세대 에픽 프로세서를 출시하면서 시작부터 활용까지 모두 AMD로 이어지는 사업을 완성한 것이다.

리사 수 CEO가 그리는 그림은 명확하다. 2014년 CEO로 부임한 이후 자일링스를 인수하며 FPGA 기업으로의 역량도 완성했고, 이번 헬리오스 출시로 데이터센터 시장 전반을 위한 시장 전략도 완성했다. AMD 역시 그다음은 피지컬 AI를 바라보고 있다. AMD는 피지컬 AI 시장에서 유일하게 FPGA, 산업용 반도체, CPU, GPU, 소프트웨어 스택까지 모두 제공할 수 있는 기업이며 이 장점을 놓치지 않고 AMD 로보틱스 파트너 네트워크 등을 구축하며 피지컬 AI 사업의 불씨도 시작했다. 이번 헬리오스 출시로 AI 데이터센터 시장 전략은 끝이자 시작을 열었고, 피지컬 AI 측면에서도 주목할만한 성과를 내지 않을까 싶다.

IT동아 남시현 기자 (sh@itdonga.com)