마이크론은 차세대 서버를 위해 최대 9200MT/s 속도를 달성하는 세계 최초 512GB DDR5 메모리 모듈을 시연했다.

에이전트 AI 및 메모리 집약적인 워크플로우는 DRAM 요구 사항을 크게 증가시켰으며, 마이크론과 같은 메모리 공급업체는 이러한 수요를 충족하기 위해 차세대 기술 개발에 적극적으로 노력하고 있다. 마이크론의 최신 제품은 최대 512GB의 DRAM 용량과 최대 9200MT/s의 속도를 제공하며, 엔터프라이즈 고객을 위한 현재까지 가장 고밀도 및 고속 메모리로 설계됐다. 이 메모리 모듈은 회사의 고급 수직 인터커넥트 패키징 솔루션을 활용하며, DRAM 다이를 수직으로 쌓고 TSV(Through-Silicon Via)를 통해 연결한다. 이를 통해 데이터센터 플랫폼은 단일 24슬롯 2소켓 서버에서 최대 12TB의 DDR5 메모리를 구현할 수 있다.

이 모듈의 고용량은 마이크론의 고급 수직 인터커넥트 패키징 혁신 덕분에 가능했다. 이 제품은 TSV로 상호 연결된 DRAM 다이를 수직으로 쌓아 개별 DRAM 패키지 내에서 밀도를 극대화하면서 최신 데이터센터 아키텍처가 요구하는 성능을 유지한다. 이 모듈은 단일 24슬롯 듀얼 소켓 서버에서 최대 12TB의 DDR5 DRAM을 지원한다.

마이크론의 클라우드 메모리 사업부 수석 부사장 겸 총괄 매니저인 Raj Narasimhan은 “마이크론은 메모리 기술의 속도를 계속 선도하며, 고객이 더 큰 데이터 세트를 컴퓨팅 엔진에 더 가깝게 유지하는 데 도움이 되는 새로운 등급의 초고밀도, 고성능 서버 메모리를 제공한다”고 말했다. 그는 “512GB RDIMM은 멀티 테라바이트 서버를 가능하게 하여 더 큰 AI 및 데이터베이스 워크로드, 더 높은 가상화 밀도, 그리고 향상된 전력 효율성을 기존 서버 공간 내에서 지원한다”고 덧붙였다.

AMD의 컴퓨팅 및 엔터프라이즈 AI 플랫폼 솔루션 엔지니어링 담당 기업 부사장인 Amit Goel은 “AMD 솔루션은 AI 및 데이터 집약적 워크로드가 인프라 요구 사항을 재편함에 따라 데이터센터 성능, 확장성 및 효율성을 계속 발전시키고 있다”고 말했다. 그는 “마이크론과의 긴밀한 엔지니어링 협력을 통해 컴퓨팅 및 메모리 혁신을 결합하여 고객이 AMD 기반 플랫폼의 모든 가치를 실현하도록 돕고 있다. 우리는 함께 현대 워크로드의 증가하는 규모와 복잡성에 대한 균형 잡힌 고성능 인프라를 가능하게 한다”고 언급했다.

인텔 데이터센터 그룹의 플랫폼 및 시스템 엔지니어링 총괄 매니저인 Karin Eibschitz Segal은 “AI 및 기타 데이터 집약적 워크로드의 성장은 서버 인프라에 새로운 요구 사항을 부여하고 있으며, 메모리 용량과 대역폭이 전체 시스템 성능에 점점 더 중요해지고 있다”고 말했다. 그는 “인텔은 마이크론과 긴밀히 협력하여 512GB DDR5 RDIMM을 검증하고 차세대 데이터센터 워크로드의 증가하는 요구 사항을 충족하도록 설계된 미래 서버 플랫폼을 지원하고 있다”고 밝혔다.

대규모 언어 모델(LLM), 에이전트 AI, 실시간 추론 및 고코어 수 CPU 워크로드의 급속한 확산은 더 큰 서버 메모리 용량, 더 높은 대역폭 및 향상된 전력 효율성에 대한 수요를 증가시키고 있다. 마이크론 512GB RDIMM은 이러한 요구 사항을 해결하여 더 큰 데이터 세트가 주 메모리에 상주하도록 하여 느린 스토리지 계층에 대한 의존도를 줄이고 비용이 많이 드는 데이터 이동을 최소화한다. 새로운 512GB RDIMM은 또한 128GB RDIMM 4개와 비교하여 작동 전력을 60% 이상 줄여 효율성을 향상시킨다.

Spark SVM(Support Vector Machines) 기반 데이터 분석과 같은 메모리 제약 워크로드의 경우, 마이크론 512GB RDIMM은 256GB DDR5 구성 대비 최대 1.4배 높은 성능을 제공한다. 512GB 모듈은 RocksDB 및 Redis를 포함한 메모리 집약적 데이터베이스 및 캐싱 플랫폼에도 상당한 이점을 제공하여 처리량을 개선하고 동시성을 높이며 데이터 세트를 보다 효율적으로 확장하도록 돕는다.