
SanDisk는 AI 및 고성능 컴퓨팅(HPC) 수요 증가로 인한 메모리 병목 현상을 해결하기 위해 칩 내부에 NAND 플래시를 스태킹하는 등 혁신적인 솔루션을 모색하고 있다. 기존 DRAM 및 HBM은 비용 상승, 개발 및 수율 문제, 전력 소모 증가, 그리고 최근에는 공급 부족으로 인해 한계에 직면했다. 특히 HBM은 낮은 용량과 주 칩과의 상호 지연 시간 문제도 안고 있다. 반면 NAND는 저렴한 비용으로 더 높은 용량을 제공하지만, 데이터 전송 속도가 느리고 칩에서 멀리 떨어져 있다는 단점이 있었다.

이러한 한계를 극복하기 위해 SanDisk는 HBM과 유사한 아키텍처 계층을 사용하는 HBF(High-Bandwidth Flash) 솔루션을 제시했다. HBF는 여러 NAND 플래시 레이어를 서로 쌓고, TSV(Through Silicon Via)를 통해 연결하여 단일 스택으로 통합한다. 현재 HBM이 스택당 32~64GB 용량을 제공하는 반면, HBF는 최대 4TB까지 확장될 수 있다. 또한 SanDisk는 최근 특허 US 12,430,274 B2를 통해 AI 가속기 또는 GPU와 같은 메인 컴퓨트 타일 아래에 CBA(CMOS Bonded Array)를 사용하여 NAND 플래시 타일을 3D 스태킹하는 아이디어를 제안했다. 이 솔루션은 동일한 인터포저에 HBM DRAM을 여전히 사용하지만, NAND 플래시는 대규모 데이터의 읽기/쓰기 작업에 활용되어 컴퓨트 칩과 메모리 타일 간의 더 넓은 연결을 제공한다.
이러한 통합 프로세싱 코어는 고대역폭, 고용량 비휘발성 메모리에 멀티코어 프로세서를 직접 통합하는 방식으로, 대형 GPU 또는 AI 프로세서에 적용될 수 있다. CBA 메모리 타일은 단일 대형 NAND 메모리 타일과 CMOS 로직 회로 타일로 구성되며, 통합 프로세서 및 CBA 메모리 타일은 인터포저에 부착된다. 이 기술은 속도, 비용 및 전력 소비를 줄이는 데 기여할 수 있지만, 전력 소모, 제조 비용 등 상용화에 앞서 해결해야 할 과제가 많다. 현재는 특허 단계에 머물러 있으며, 실제 제품으로 구현되기까지는 추가적인 개발이 필요하다.
출처: Wccftech
원문: https://wccftech.com/sandisk-bets-on-stacking-nand-and-compute-on-one-chip/




인