ASUS(에이수스)가 인공지능 솔루션(AI Solution) 세미나를 진행했다.

ASUS 코리아는 20일 오전 서울 구로에 위치한 포포인츠 바이 쉐라톤에서 국내 채널 파트너사들과 미디어들을 대상으로 AI 솔루션 세미나를 열고 AI 시대에 빠르게 진입하면서 변화하는 비즈니스 환경에 대응하기 위한 인텔(Intel)과 ASUS의 AI 기반 솔루션을 선보이는 시간을 가졌다.

이날 행사는 ASUS 코리아를 비롯해 인텔 코리아, 씨게이트 코리아, 코잇에서 참여하여 채널 파트너사 관계자들에게 최신 서버 신제품 소개를 비롯해 데이터 센터 및 AI 로드맵, 스토리지 기술 패러다임, 서버 솔루션 등을 소개했다.

ASUS 서버 신제품 및 로드맵 공개한 ASUS 코리아

ASUS 코리아 오픈 플랫폼 비즈니스 그룹 강인석 지사장은 AI가 산업 뿐만 아니라 사회 전반에 대전환을 불러오고 있으며 최근 대만에서 열린 컴퓨텍스에서 ASUS가 인텔 제온 6를 탑재한 최첨단 서버와 스토리지 서버를 선보였다다고 밝혔다.

또 아직은 완벽한 엔터프라이즈 솔루션이라고 할 수 없지만 HPC와 AI를 위한 솔루션을 구축했다고 자부할 수 있으며, ASUS 그룹 내부에서도 최근 서버 비즈니스 유닛이 인프라 스트럭처 솔루션 그룹으로 업그레이드가 되면서 ASUS가 서버 특히 AI 산업에 진심으로 투자하고 중요성을 강조하고 있다고 언급했다.

ASUS 서버 신제품 소개에 나선 ASUS 코리아 박기순 매니저는 엣지 AI 서버부터 생성형 AI, 그리고 AI 슈퍼컴퓨터까지 ASUS가 서버 제품군 전 라인업을 갖추고 있으며, ASUS가 SPEC CPU에서 1,906개 이상의 가장 많은 1위 기록을 보유하고 AI 워크로드를 성능을 측정하는 MLPerf 벤치마크에서도 176개 부문 1위를 기록했다고 밝혔다.

또한 인텔과의 협력을 통해 올해 3분기부터 내년 2분기까지 내놓을 서버 제품군의 특징을 소개했으며, 생성형 AI 플랫폼으로 8 GPU 기반 시스템도 인텔 CPU를 기반으로 하는 엔비디아, AMD, 인텔 GPU가 탑재된 라인업을 제공한다고 언급했다. 엔비디아의 경우 HGX H100이 단종되고 동일한 가격으로 H200이 출시되지만 주문이 많이 밀려있으며, 엔비디아 HGX B100과 AMD MI300X, 인텔 가우디3 (Gaudi 3)가 적용된 제품들의 대략적인 특징을 비교했다.

그 밖에 ASUS에서 출시될 HGX 로드맵과 PCIe GPU 로드맵도 공개했다.

인텔 제온 6 제품군 및 가우디 6 소개한 인텔 코리아

인텔 코리아 김혜정 차장은 하이브리드 AI 성장세에 대해 처음에는 대규모 서버 시스템에만 들어가던 LLM(Large Language Model)와 같은 것들이 어느 순간 사용자들과 굉장히 밀접한 온디바이스 AI, 엣지 AI 형태로까지 전환이 되면서 단순히 서버에 접속하던 방식을 벗어나 노트북이나 미니 PC에서도 AI 연산이 필요하게 됐다고 밝혔다.

인텔은 AI 영역에서 가장 큰 클라우드와 데이터센터부터 NUC에 들어가는 모바일용 CPU에도 AI 전용 가속기 NPU 및 GPU와 같은 것들이 내장되어 있다.

데이터센터를 타겟으로 하는 5세대 인텔 제온 프로세서(에메랄드 래피즈)는 4세대 제온(사파이어 래피즈)과 동일한 플랫폼을 사용하면서도 CPU 아키텍처가 변화하여 CPU 코어 수 향상, 메모리 속도 향상, Last Level Cache 3배 증가 등 많은 발전이 있었으며, CPU에서 처리하는 LLM에서 시장에서 요구하는 레이턴시(100ms 미만)보다 좋은 성능을 보이고 있다고 설명했다. 이는 5세대 제온보다 AI 연산의 기본이 되는 행렬 단위 연산 처리를 가속하는 AMX를 탑재하면서 가능해진다.

또한 이번 컴퓨텍스에서 발표한 인텔 제온 6 아키텍처도 소개했다. 제온 스케일러블 프로세서(SP)와 그보다 훨씬 커진 AP로 두 가지 플랫폼으로 출시되어 각자 플랫폼끼리만 호환된다.

특히 기존에는 데이터센터용 제온에는 코어당 성능이 중요했기 때문에 P-코어를 탑재했고, E-코어는 아톰과 같은 저전력 플랫폼에만 넣었다면, 인텔 제온 6 프로세서는 P-코어 시리즈 뿐만 아니라 효율성에 최적화된 E-코어 시리즈도 출시되어 대규모 코어가 필요한 제품에 탑재된다.

올해 출시되는 인텔 제온 6 프로세서 가운데 SP 라인업에 해당하는 제품은 제온 6700 시리즈, AP 라인업은 제온 6900 시리즈가 되며 P-코어와 E-코어 사용 여부에 따라 제품 이름의 숫자 뒤에 P 또는 E 문자가 붙게 된다.

인텔 제온 6 라인업 중에서는 E-코어가 들어간 SP 제품군인 제온 6700E가 가장 먼저 출시됐고, 3분기에는 P-코어 기반 AP 제품군인 제온 6900P, 그 후에 더 많은 제온 6 제품군이 등장한다.

생성형 AI나 LLM에 사용할 수 있는 인텔 가우디 3 AI 가속기는 5nm 공정을 사용하고 기존 가우디 2와 비교해 FP8 기준 2배, BF16 기준 4배의 AI 컴퓨팅과 2배의 네트워크 대역폭, 1.5배의 메모리 대역폭을 제공한다.

인텔 가우디 3는 우선 OAM 모듈 타입(HL-325L)으로 출시되는데 일반 PCIe 확장 카드처럼 단독으로 사용할 수는 없고 8개씩 유니버셜 베이스 보드(HLB-325)에 결합된 형태로 서버에 장착된다. 이후 PCIe OEM 쪽으로 Add-in 카드 형태(HL-338)도 출시될 예정이다.

인텔은 기존 제품은 특정 업체만 런칭 파트너였으나 가우디 3부터는 다양한 런칭 파트너들과 함께 지원할 계획이라고 밝혔다. 또한 인텔 AI 가속기 로드맵도 가우디 3 이후로도 AI 및 생성형 AI, LLM에 좀더 특화된 Falcon Shores 및 그 다음 세대까지 계획 중임을 내비쳤다.

HDD 발전 가능성과 최신 스토리지 솔루션 소개한 씨게이트 코리아

씨게이트 코리아 김정균 이사는 대용량 스토리지의 새로운 패러다임 씨게이트 모자이크3+ (mozaic 3+)라는 주제로 현재 플래시 기반 스토리지가 각광받고 있지만 하드 디스크 드라이브(HDD)가 SSD에 완전히 대체되지 않고 서버 시장의 테이프 매체와 같이 일정한 시장을 고수할 것으로 전망했다.

낸드 플래시가 용량을 늘리기 위해 멀티 레벨 셀로 비트 수를 늘리면 기록 수명이 그만큼 짧아지게 되고 이를 극복하기 위한 3D 낸드 방식도 발열이나 전기적 충격에 취약해지기 때문에 빠른 스토리지 성능이 요구되는 작업은 플래시 메모리 기반 제품이 정답이지만 적절한 백업이 반드시 필요하고, 순차적인 읽기/쓰기가 일어나고 대용량 데이터를 저장하거나 데이터의 보존성이 중요한 경우 HDD도 매력적인 저장 수단이라는 설명이다.

HDD는 1956년 IBM이 처음으로 선보였을 때는 불과 5MB의 용량을 제공했지만 오늘 날에는 단일 스토리지로 24TB 용량을 제공하고 있다. 김정균 이사는 HDD를 오래된 예전 기술로 만들어지고 있다는 일반적인 시각에 대해 최신 반도체 분야 못지 않은 첨단 기술이 적용되고 있다고 강조했다.

HDD 디스크 표면과 헤드의 읽기/쓰기 소자 사이의 간격은 불과 5~10nm 정도이며 히터를 사용해 읽기/쓰기 소자를 디스크 표면에 최대 1nm까지 접근할 수 있다. 또한 주변에서 들어오는 진동을 감지하는 센서를 통해 HDD에 발생하는 영향을 최소화시킨다. HDD 헤드에 들어가는 슬라이더는 200mm 웨이퍼에서 4달이 넘는 기간 동안 1,500단계 이상의 절차를 걸쳐 10만 개 이상의 헤드를 생산한다.

나노 단위의 정밀한 기술을 통합하여 기록 밀도를 개선한 HAMR에 이어 새로 도입하는 모자이크 3+ 기술은 기존 HDD 대비 고밀도 플래터를 사용하면서 데이터 센터에서 테라 바이트당 소비 전력을 40% 절감시키는 효과가 있다. 또한 향후 기록 밀도를 개선하는 기술이 더욱 향상되면 100TB 이상의 하드 드라이브가 출시될 수 있을 것으로 전망했다. 이는 실험실 레벨에서는 이미 검증이 되었고 수율과 비용의 문제라는 것이다.

이런 기술을 바탕으로 씨게이트는 세계 유수의 제조사들과 협업해 솔루션을 공급해오다가 4년 전부터 씨게이트 브랜드로 직접 스토리지 솔루션을 시장에 출시하기 시작했다. 섀시 크기와 스토리지 종류, 컨트롤러 방식에 따라 직관적으로 구분할 수 있는 커스트마이즈가 가능한 모듈식 구성 방식을 적용하고 있다.

씨게이트 스토리지 섀시는 2,000개의 HDD를 동시에 테스트할 수 있는 장비를 공급하던 자이라텍스(xyratex)를 인수하여 그 기술력을 바탕으로 제작되었고, 향후 기록 밀도가 높아지는 HAMR, 모자이크 3+ 이상의 기술이 적용되면 HDD가 진동에 더욱 민감해질 것이기 때문에 일반적인 서버에 장착하면 원래 계획했던 성능이 제대로 구현되지 못할 가능성이 발생할 수 있으므로 스토리지 섀시 기술도 중요해질 것으로 분석했다.

씨게이트 Exos X 6세대 스토리지 시스템과 여기에 적용된 차세대 ASIC 기반 하드웨어 아키텍처 '벨로시티(VELOCT), HDD 일부에 장애가 발생했을 때 드라이브 전체를 교체하고 데이터를 옮기는데 걸리는 시간을 절약하고 문제가 발생한 영역만 제외한 나머지 영역으로 드라이브를 재구성 할 수 있는 씨게이트 ADR(Autonomic Drive Regeneration) 기술이 적용된 EXOS CORVAULT 하이퍼스케일 인텔리전트 블록 스토리지에 대해서도 소개했다.

김정균 이사는 AI 및 머신 러닝 데이터 처리 과정에서 모델 학습과 추론 부문은 빠른 스토리지 속도 및 응답 성능이 중요하기 때문에 SSD와 같은 저장 매체가 필요하지만, 다양한 데이터를 수집하거나 대용량 저장공간을 요구하는 스테이징 및 아카이브는 HDD가 활용도가 높다고 언급했다. 그리고 AWS와 100% 호환 가능한 클라우디안 하이퍼스토어도 소개했다.

asustor와 ASUS IoT 소개한 코잇

코잇 강우석 이사는 채널 파트너들이 요구하는 가격과 그에 맞는 재고를 보유하고 채널 고객을 지원하기 위한 자체 엔지니어를 확충하고 함께 성장하기 위해 노력하고 있다고 밝혔다.

ASUS의 스토리지 사업 asustor에 대해 소개했는데 타워형과 랙마운트으로로 구성되는 asustor 제품군과 이번에 출시되는 신제품 및 주요 기능들을 발표했다. 또한 asustor의 장점에 대해 ASUS에서 만든 안정성과 함께 동급 최강의 하드웨어, 최고의 편리성 및 신뢰성, 고객 지원 등을 내세웠다.

그 밖에 ASUS IoT 관련 제품 포트폴리오와 활용 방안에 대해서도 설명했다.