AI 기술의 발전과 함께 AI 인프라에 요구되는 성능과 효율성도 빠르게 변화하고 있다. 단순한 질문과 답변을 넘어 복잡한 작업을 자율적으로 수행하는 에이전틱 AI가 확산되면서 연산 성능뿐 아니라 메모리와 네트워크, 전력 소비, 운영 비용까지 고려해야 하는 상황이다. 여기에 AI 모델의 경량화로 개인용 PC에서도 다양한 AI 작업을 처리할 수 있게 되면서 데이터센터와 로컬 AI를 아우르는 기술의 중요성도 높아지고 있다.

AMD는 11월 4일 서울에서 개최한 'AMD Advancing AI and Dev Day Seoul 2026' 행사에서 이러한 변화에 대응하기 위한 AI 전략을 소개했다. 차세대 EPYC 프로세서와 인스팅트 GPU를 중심으로 데이터센터의 처리 효율을 높이는 한편, ROCm 기반 개방형 소프트웨어 생태계와 라이젠 AI PC를 통해 AI 활용 범위를 확대하겠다는 구상이다.

특히 이번 행사에서는 하드웨어 성능 향상에 그치지 않고 소프트웨어 최적화와 클라우드·로컬 AI의 역할 분담을 통해 AI 운영 비용을 줄이는 방안도 강조됐다. AMD가 제시한 차세대 AI 인프라 전략과 주요 기술을 살펴보자.

AMD 리사 수 CEO, 한국 AI 생태계 투자 및 협력 확대

영상으로 인사말을 전한 AMD 리사 수(Lisa Su) CEO는 AI 기술이 빠르게 발전하면서 신약 개발과 과학적 문제 해결, 업무 방식의 변화 등 다양한 산업에서 혁신을 이끌고 있다고 설명했다.

한국은 세계적인 반도체 및 메모리 기술력을 비롯해 AI 연구자와 개발자, 스타트업으로 구성된 활발한 생태계를 갖추고 있으며, AI 모델부터 반도체와 클라우드 인프라에 이르는 전체 가치사슬에서 중요한 역할을 하고 있다고 평가했다.

AMD는 이러한 한국의 기술적 역량을 바탕으로 반도체와 시스템, 소프트웨어 분야의 국내 기업들과 파트너십 및 투자를 확대할 계획이다.

또한 개발자들이 AMD의 컴퓨팅 자원과 교육, 개발 도구를 활용할 수 있도록 AI 개발자 지원 프로그램을 강화하고, 새롭게 마련되는 한국 우수성 센터(Korea Center of Excellence)를 통해 국내 대학과 스타트업, 산업계와의 협력을 추진한다.

AMD 코리아 , 소버린 AI 위한 개방형 플랫폼 강조

장정희 AMD코리아 커머셜 세일즈 총괄은 한국 AI 산업의 경쟁력 확보를 위한 개방형 컴퓨팅 플랫폼의 중요성을 강조했다.

장정희 대표는 소버린 AI(Sovereign AI)가 모든 기술을 국내에서 자체 개발하는 것을 의미하지는 않는다며, 데이터와 AI 모델, 컴퓨팅 인프라 및 인재에 대해 한국이 주도권과 선택권을 확보하는 것이 핵심이라고 설명했다.

특히 AI가 데이터센터의 모델 학습을 넘어 클라우드와 기업, PC 및 에지 환경으로 확산되고 에이전틱 AI가 실제 업무에 도입되면서 단일 칩이나 폐쇄형 플랫폼만으로는 다양한 요구를 충족하기 어렵다고 지적했다.

이에 AMD는 성능과 비용 효율성뿐 아니라 개방성, 보안 및 확장성을 갖춘 컴퓨팅 플랫폼을 제공하기 위해 매출의 약 20%를 연구개발에 투자하고 있으며, 최근 5년간 12건의 전략적 인수를 통해 하드웨어와 소프트웨어, 시스템 분야의 역량을 확대해 왔다고 밝혔다.

이를 바탕으로 국내 클라우드 사업자와 AI 기업, 개발자 및 스타트업들이 AMD 기술을 활용해 새로운 사업 기회를 창출할 수 있도록 협력한다는 방침이다.

과기정통부 유제명 차관, AMD AI 연구센터 설립 및 인재 양성 협력

과학기술정보통신부 유제명 제2차관은 지난 7월 대통령의 미국 순방을 계기로 AMD와 업무협약을 체결했으며, 이를 바탕으로 AI 컴퓨팅 인프라 구축과 AMD AI 연구센터 설립, 인재 양성 등을 위한 협력 방안을 논의하고 있다고 밝혔다.

유제명 차관은 에이전틱 AI 시대에는 추론 연산 수요와 전력 비용 부담이 커지는 만큼 CPU와 GPU 등 다양한 반도체의 장점을 결합하고, 표준 기술과 오픈소스를 활용한 개방형 AI 생태계를 구축하는 것이 중요하다고 강조했다.

또한 한국이 보유한 메모리 반도체와 국산 AI 반도체, 소프트웨어 및 네트워크 기술이 AMD의 컴퓨팅 기술과 결합하면 상당한 시너지를 기대할 수 있다고 평가했다.

정부는 이러한 협력이 실질적인 성과로 이어질 수 있도록 2027년부터 'K-AI 반도체 풀스택 레퍼런스 지원 사업'을 추진할 계획이다. 이를 통해 AI 반도체부터 모델, 소프트웨어 및 서비스까지 연결하고 실제 산업 현장에서 활용할 수 있는 성공 사례를 확보한다는 방침이다.

다만 AMD의 한국 우수성 센터와 정부가 언급한 AMD AI 연구센터의 구체적인 운영 방식 및 설립 일정, 투자 규모 등은 이번 발표에서 공개되지 않았다.

AMD, 퓨리오사AI·망고부스트와 협력... 2027년 서울에 AI 클러스터 구축

이어서 연단에 오른 AMD 글로벌 AI 시장 담당 키스 스트라이어(Keith Strier) 수석 부사장은 한국의 소버린 AI 경쟁력을 높이 평가하며 국내 AI 기업들과의 협력 확대 계획을 발표했다.

AMD는 이번 행사에서 퓨리오사AI 및 망고부스트와 업무협약(MOU)을 체결하고, 리사 수 CEO가 언급했던 이기종 AI 레퍼런스 클러스터를 2027년 봄 서울에 구축할 계획이라고 밝혔다.

해당 클러스터는 AMD의 CPU와 GPU, 퓨리오사AI의 NPU, 망고부스트의 DPU를 통합한 시스템으로, 서로 다른 종류의 프로세서를 결합한 개방형 AI 인프라의 가능성을 검증하기 위한 것이다. AMD는 이를 시작으로 국내 AI 기업들과 협력을 확대하고, 한국의 기술을 자사 컴퓨팅 플랫폼에 통합해 글로벌 시장으로 확산시킨다는 구상이다.

이와 함께 AMD는 AI 시장이 모델 학습에서 추론과 에이전틱 AI 중심으로 확대되면서 GPU뿐 아니라 CPU의 중요성도 높아지고 있다고 강조했다. 이에 대응해 GPU 72개를 탑재하는 랙 규모 AI 컴퓨팅 플랫폼 헬리오스(Helios)를 비롯해 작업 특성에 따라 CPU와 GPU 구성을 조정할 수 있는 개방형 시스템을 확대하고 있으며, 헬리오스는 2027년까지 주요 클라우드 사업자와 데이터센터를 중심으로 도입이 확대될 것으로 전망했다.

피지컬 AI 분야에서는 로봇이 인간의 움직임을 예측하고 안전한 행동을 학습하도록 하는 글로벌 '피지컬 AI 행동 안전 챌린지(Physical AI Behavioral Safety Challenge)'도 발표했다. 이번 경진대회는 11월 9일부터 2027년 1월 31일까지 진행되며, 우수 참가팀에는 수만 달러 규모의 상금이 제공될 예정이다.

AMD는 한국 우수성 센터(Korea Center of Excellence) 구축과 국내 대학 및 기업들과의 협력을 통해 한국의 AI 기술 개발을 지원하는 한편, 향후 추가적인 협력 프로젝트도 발표할 계획이라고 밝혔다.

소프트웨어 최적화로 동일 GPU 성능 3.3배 향상... ROCm 생태계 확대

AMD의 AI 제품 관리 담당 기업 부사장(Corporate Vice President, AI Product Management) 라민 로안(Ramine Roane)은 ROCm 소프트웨어 플랫폼의 발전 방향과 AI 추론 성능 개선 성과를 소개했다.

라민 로안 부사장은 GPU의 실제 성능과 활용 가치를 결정하는 중요한 요소가 소프트웨어라고 강조하며, AMD가 오픈소스와 개발 추상화를 중심으로 ROCm 생태계를 확대하고 있다고 설명했다.

ROCm은 런타임과 컴파일러, 디버거 등을 오픈소스로 제공하는 GPU 컴퓨팅 플랫폼으로, 개발자가 특정 하드웨어에 종속되지 않고 AI 소프트웨어를 개발할 수 있도록 지원한다.

AMD에 따르면 현재 허깅페이스에 등록된 약 320만 개의 AI 모델을 AMD GPU에서 실행할 수 있으며, PyTorch와 JAX, vLLM, SGLang 등 주요 AI 프레임워크도 별도의 코드 수정 없이 활용할 수 있다. 또한 Python 기반 도메인 특화 언어(DSL)를 제공해 복잡한 저수준 GPU 커널 개발 과정을 간소화하고 있다.

최근에는 기존의 오픈소스와 추상화 전략에 AI 지원 프로그래밍을 추가했다. AMD가 공개한 ROCm AI는 AI 코딩 에이전트를 활용해 개발 환경 구축과 모델 실행, GPU 커널 최적화 등을 지원하며, Anthropic과 OpenAI, Cursor 등의 개발 도구와 연동할 수 있다.

AMD는 이러한 AI 기반 소프트웨어 최적화를 통해 6개월 만에 동일한 GPU에서 최대 3.3배의 성능 향상을 달성했다고 설명했다. 주요 개선 사항은 GPU 커널과 통신 처리, 메모리 관리 및 KV 캐시 최적화 등으로, 하드웨어 변경 없이 AI 추론 처리 성능을 높인 것이 특징이다.

소프트웨어 최적화에 따른 경제적 효과도 강조했다. AMD는 SemiAnalysis의 벤치마크를 인용해 특정 AI 모델의 추론 서비스를 운영할 경우 GPU당 시간당 약 11달러의 매출과 43~44% 수준의 이익률을 확보할 수 있다고 설명했다. 비교 대상 GPU의 이익률은 약 3~21% 수준으로 제시됐다.

국내 AI 소프트웨어 기업과의 협력 사례도 소개했다. AMD는 업스테이지의 Solar를 비롯한 한국 AI 모델의 ROCm 지원을 강조했으며, 국내 기업 모레(MOREH)가 ROCm 기반 자체 소프트웨어 스택을 구축해 AI 추론 성능과 수익성을 높이고 있다고 밝혔다.

AMD는 앞으로도 개방형 소프트웨어와 AI 기반 최적화 기술을 통해 개발자의 접근성을 높이고, 국내 AI 기업들이 AMD GPU를 활용한 AI 서비스와 인프라를 구축할 수 있도록 협력을 확대할 계획이다.

256코어 EPYC 베니스, AI 데이터센터 서버 최대 92% 감축

AMD 아시아태평양·일본(APJ) 지역 데이터센터 사업개발 담당 리테시 로히트 파텔(Ritesh Rohit Patel) 디렉터는 이번 행사에서 에이전틱 AI 시대를 위한 CPU와 GPU, 메모리 및 랙 규모 컴퓨팅 시스템 전략을 발표했다.

파텔 디렉터는 AI가 단순한 질문과 답변을 제공하는 생성형 AI에서 실제 작업을 수행하는 에이전틱 AI로 발전하면서 GPU뿐 아니라 CPU와 메모리, 네트워크, 스토리지 등을 포함한 전체 시스템의 성능이 중요해지고 있다고 설명했다.

이에 대응하는 6세대 EPYC 베니스는 최대 256코어 512스레드 구성을 지원하며, 고성능 데이터센터를 위한 SP7 플랫폼과 성능 및 전력 효율의 균형을 고려한 기업용 SP8 플랫폼으로 제공된다. 또한 고성능 컴퓨팅과 AI 사전 학습을 위한 베니스-X(Venice-X), 대규모 AI 시스템을 위한 베라노(Verano) 등 작업 특성에 맞춘 제품 구성도 소개했다.

AMD는 베니스가 CPU 연산 성능뿐 아니라 메모리 및 I/O 대역폭을 개선해 플랫폼 전체의 처리 능력을 높였다고 강조했다. 특히 특정 데이터센터 환경에서 기존 서버 1,000대의 작업을 6세대 EPYC 기반 서버 82대로 처리할 수 있다며, 서버 수를 약 92% 줄여 전력 소비와 운영 비용을 절감할 수 있다고 주장했다.

경쟁 제품과의 비교에서도 엔비디아 그레이스 기반 시스템보다 랙 단위 성능이 약 2배 높고, 전력당 성능 역시 2배 이상이라고 설명했다. 다만 이러한 수치는 AMD가 제시한 특정 비교 조건에 따른 결과로, 실제 도입 환경에 따라 차이가 발생할 수 있다.

GPU 분야에서는 기존 데이터센터에 설치할 수 있는 인스팅트 MI350P를 소개했다. PCIe 카드 형태로 공랭식 서버에 장착할 수 있어 새로운 데이터센터를 구축하지 않고도 AI 추론 인프라를 확장할 수 있다는 점이 특징이다. AMD는 일부 벤치마크에서 경쟁 제품 대비 2.5배에서 5.1배 수준의 성능을 기록했다고 밝혔다.

대규모 AI 컴퓨팅 플랫폼 헬리오스(Helios)와 함께 기업용 랙 시스템도 소개했다. 기업용 시스템은 CPU 전용 또는 CPU와 GPU를 결합한 구성이 가능하며, 공랭식과 수랭식 환경을 모두 지원한다. 또한 통합 토큰 라우터를 통해 AI 추론 요청을 자체 데이터센터와 클라우드의 AI 모델로 분산할 수 있도록 설계됐다.

이와 함께 AMD는 소프트웨어를 이용해 비휘발성 메모리 자원을 DRAM의 확장 영역으로 활용하는 기술도 소개했다. 이를 통해 메모리 용량이 많이 필요한 작업의 처리 효율을 높이고 데이터센터의 운영 비용을 줄일 수 있다는 설명이다.

파텔 디렉터는 데이터센터 인프라가 장기간 사용되는 만큼 향후 AI 작업 변화에 대응할 수 있는 유연성과 개방형 생태계, 총소유비용(TCO)을 고려한 시스템 설계가 중요하다고 강조했다.