AMD는 20일 인터컨티넨탈 서울 코엑스 호텔에서 'AMD AI Business Overview'라는 주제로 기자간담회를 열고 AMD의 AI 제품 및 사업 분야 (서버, 클라우드, 라이젠 AI 등) 소개와 함께 향후 사업 전략 및 파트너십에 대한 현황을 소개했다. 이번 행사에서 AMD는 최근의 화두인 AI를 어떤 식으로 주도하고 있는지에 대해 언급했다.

이재형 AMD 커머셜 부문 대표는 "AI 솔루션은 2023년 450억 달러의 시장이 형성됐고, 2027년에는 4000억 달러에 달할 것으로 전망된다. AMD는 AI 인프라, 예컨데 클라우드와 HPC, 엔터프라이즈, 임베디드, PC 등 모든 영역에 걸친 엔드-투-엔드 솔루션을 공급하고 있다. 실제로 광범위한 훈련 및 추론 컴퓨팅 엔진 포트 폴리오 제시할 뿐만 아니라 개방적이고 검증된 소프트웨어 역량을 갖췄고, 기술 혁신을 위해 협업하는 AI 생태계를 구축했다"라고 밝혔다.

▲ 이재형 AMD 커머셜 부문 대표

데이터 센터에 최적화된 AMD의 플랫폼과 전략

이어진 AMD 김홍필 이사의 발표에서는 AMD 인스팅트 MI300 AI 서버 전용 가속기와 AMD CDNA3 아키텍처가 소개됐다. 기존 RDNA가 컴퓨팅 및 게임 전용이라면 'AMD CDNA3 아키텍처'는 차세대 AI 가속기 아키텍처라 할 수 있다. 이는 AI 및 HPC 전용 가속기 엔진으로 4세대 AMD 인피니티 아키텍처 기반의 3.5D 패키팅으로 병렬 연산 처리 능력이 좋을 뿐만 아니라 인피니티 패브릭 기술을 통해 최적의 성능과 전력 효율성을 자랑한다.

이날 발표된 'AMD 인스팅트 MI300X'는 업계 최고 수준의 생성형 AI 가속기다. 192GB의 HBM3 메모리가 탑재됐고, 최대 5.3 TB/s의 메모리 대역폭을 지원한다. 여기에 최대 869GB/s의 AMD 인피니티 패브릭 대역폭을 지원한다.

256MB의 AMD 인피니티 캐시를 자랑하는 I/O 다이가 4개 탑재됐으며, 304개의 AMD CDNA3 아키텍처의 컴퓨트 유닛이 들어간 액셀러레이터 콤플렉스 다이가 8개, HBM3가 8개가 탑재됐다. 또한 3D 하이브리드 본딩 기술이 적용돼 각 유닛간 유기적인 작동이 가능하다.

'MI300X'는 단품이 아니라 플랫폼 레벨로 판매된다. 8개의 엑셀러레이터 카드가 하나의 모듈 형태로 서버에 탑재된다. 최대 10.4 PF (BF16 / FP16)의 연산 능력, 최대 1.5TB의 HBM3가 지원된다. 또한 업계 표준 디자인을 채택해 범용성 면에서도 뛰어나다.

'MI300X' 가속기는 델을 비롯해 HP와 레노버, 슈퍼마이크로, ASUS, 기가바이트 등의 글로벌 브랜드와 협업해 다양한 제품을 내놓을 계획이다.

다음으로 'AMD 인스팅스 MI300A'에 대한 소개도 이어졌다. 이는 세계 최초의 AI 및 HPC용 APU 가속기로 AMD CDNA3 아키텍처를 기반으로 설계됐으며, 128GB의 HBM3를 지원한다. 5nm 및 6nm의 미세 공정을 기반으로 제작됐으며, CPU와 GPU가 메모리를 공유하는 형태로 되어 있다.

기존 3세대 인피니티 아키텍처는 CPU 메모리와 GPU 메모리가 따로 사용되는 형태였다면, 이번 4세대 인피니티 아키텍처는 통합 메모리 개념으로 제작돼 데이터를 공유할 수 있다. 또한 228개의 AMD CDNA3 아키텍처의 컴퓨트 유닛이 장착된 액셀러레이트 콤플렉스 다이를 사용했다.

'MI300A'는 APU의 장점을 통해 새로운 성능과 전력 효율성을 모두 갖춰 다양한 서버 솔루션에 활용될 수 있으며, 전통적인 HPC 시장도 타켓으로 잡고 있다. 참고로 AMD 인스팅스 제품군은 세계 상위 25개의 슈퍼컴퓨터 중 5개, 상위 10개의 그린 슈퍼컴퓨터 중 6개의 시스템을 지원해 상당히 범용적이라 할 있다.

이어 김홍필 이사는 소프트웨어 업그레이드 게획도 발표했다. AMD는 현재 클라우드와 엔드 포인트 AI 전반에 걸친 소프트웨어를 지원하고 있는 것으로 알려졌다. 대표적으로 데이터 센터 GPU인 ROCm을 비롯해 데이터 센터 CPU인 ZenDNN, 클라이언트를 위한 ViTis AI도 지원한다.

그 중에서도 새로운 ROCm 6는 생성형 AI를 위한 새로운 기능을 제공한다. LLM 성능을 최적화했고, 기존 AMD ROCm 기능을 개선했다. 실제로 MI300A와 ROCm6의 조합에서 이전 세대에 비해 최대 8배의 성능 향상이 확인됐다.

이와 함께 AMD 에픽 서버 프로세서도 소개됐다. 에픽 프로세서는 머신 러닝 시장을 비롯해 생성형 AI 등을 통해 스트리밍과 게이밍은 물론 공공 안전이나 제조업, 소매업과 금융서비스, 의료 등의 분야에 최적화된 모습을 보여준다.

에픽 프로세서는 최상위 수준의 AI 연산을 위한 조건을 갖췄다. 언어, 이미지 및 기타 데이터 유형에 대한 AI 시스템을 위한 훈련과 추론에 강한 모습을 보여주고, 워크로드에 최적화된 엔진을 통해 모든 요건에 대응한다. AMD 에픽 CPU 기반의 서버로 데이터 센터의 AI 이니셔티브를 활성화한다.

김홍필 이사는 "AMD는 인텔의 'CPU First'와 엔비디아의 'GPU First'의 접근 방식에 대응하는 'Custmer First' 전략을 갖춰 광범위한 범용성을 자랑한다. 에픽 기반의 서버는 AMD 인스팅트 및 AMD 라데온, 엔비디아 및 기타 GPU 가속을 지원하는 탁월한 호스트라는 점이 이를 뒷받침한다"고 밝혔다.

모든 사용자를 위한 AI PC 혁신 'AMD 라이젠 AI 프로세서'

이어 임태빈 AMD 이사의 AMD 라이젠 AI PC에 대한 소개가 이어졌다. 임태빈 이사는 AMD는 데이터 센터를 비롯해 엣지와 엔드 포인트까지 업계 유일의 광범위한 AI 솔루션을 지원하고 있다고 전했다. AMD 인스팅스 가속기를 비롯해 AMD 알베오 가속기, AMD 4세대 에픽 프로세서 등 AI에 최적화된 다양한 제품을 선보였다.

AMD 라이젠 AI 프로세서는 AMD XDNA 기반의 NPU와 ZEN 아키텍처 기반의 GPU, RDNA 기반의 GPU가 통합됐다. 특히 NPU는 가장 효율적인 모바일 AI 프로세싱을 위한 전용 AI 엔진을 탑재했고, CPU는 AI 워크로드를 가속화하는 AVX-512 VNNI 명령어를 지원한다. 또한 GPU는 병렬 연산의 AI 워크로드에 최적화됐기에 고객의 요구에 적절하게 대응할 수 있다.

이러한 강점을 기반으로 AI PC와 AI 노트북은 탁월한 성능은 물론 강력한 보인 기능과 높은 미래 가치, 뛰어난 효율성을 자랑한다. 특히 NPU가 CPU와 GPU에 부하를 NPU가 처리함으로써 한층 원활한 작동이 가능하다.

AMD는 이렇듯 차별화된 아키텍처의 프로세서를 통해 업계 대표 브랜드와 긴밀한 협업 관계를 유지하고 있다. 2023년 이후 수 백만 대의 라이젠 AI 프로세서 탑재 제품이 출시됐다. 특히 에이서와 ASUS, 델, 레노버, HP 등 내로라 하는 노트북 제조사에서 라이젠 AI 프로세서를 탑재한 것을 볼 수 있다.

이밖에 최근 퍼스널 AI 프로세싱을 위한 AMD 라이젠 8040 시리즈 프로세서도 소개했다. 이는 RDNA3 아키텍처 기반의 GPU가 탑재돼 동급 최강의 그래픽 성능을 자랑한다. 기존 라이젠 7000 시리즈와 비교해 무려 약 1.4배의 괄목할 만한 AI 성능 향상을 이뤘다.

아울러 AMD는 라이젠 8040 시리즈를 포함한 코드명 '호크 포인트'를 올해 발표한데 이어, 2024년 내에 기존 대비 3배의 AI 업무 능력을 갖춘 코드명 '스트릭스 포인트' 프로세서도 발표할 예정이다.

임태빈 AMD 이사는 "AMD 라이젠 AI는 퍼스널 컴포팅의 시대를 선도하고 있다. 이러한 기술력을 바탕으로 개인 소비자는 물론 클라우드와 엔터프라이즈까지 모든 영역에서 최고의 컴퓨팅 능력을 갖췄다고 자부한다. 앞으로도 AMD는 업계 선구자로써 AI의 발전에 이바지할 것이다"라고 밝혔다.

ⓒ 뉴스탭(http://www.newstap.co.kr) 무단전재 및 재배포금지