인텔이 에이전틱 AI와 대규모 추론 시장을 겨냥해 제온 프로세서와 GPU, 개방형 소프트웨어를 결합한 이기종 AI 인프라 전략을 구체화했다. 특히 코드명 ‘크레센트 아일랜드(Crescent Island)’로 알려진 인텔 GPU D-시리즈의 세부 사양을 공개하고, 고집적 제온 기반 랙 설계를 선보이며 데이터센터 단위에서 AI 컴퓨팅 효율을 높이는 데 초점을 맞췄다.

인텔 GPU D-시리즈

인텔은 미국 캘리포니아 새너제이에서 열린 OCP(Open Compute Project) 글로벌 서밋에서 인텔 GPU D-시리즈의 추가 기술 정보를 공개하고 새로운 인텔 제온 기반 랙 설계, 개방형 소프트웨어 및 인프라 생태계 전략을 소개했다.

인텔은 개방형 AI 모델 확산으로 기업의 선택지가 넓어진 반면 전력 제약과 메모리 병목, 구축 비용 문제가 AI 인프라 확대를 어렵게 만드는 요인으로 부상했다고 보고 있다. 이에 범용 컴퓨팅과 전용 가속 기술, 개방형 소프트웨어, 표준 기반 시스템을 하나의 인프라로 결합해 워크로드 특성에 따라 CPU와 GPU, 특수 가속기를 배치하는 방식을 추진한다.

특히 에이전틱 AI가 단순 추론을 넘어 정보 검색과 추론, 오케스트레이션, 외부 도구 활용, 실제 작업 실행으로 이어지는 다단계 구조로 발전하면서 범용 CPU의 역할도 다시 커지고 있다는 설명이다. 인텔은 이를 ‘모든 프롬프트를 최적의 컴퓨팅 자원에 배치한다(Put Every Prompt in Its Place)’는 전략으로 정의했다.

니콜라스 뒤베(Nicolas Dubé) 인텔 데이터센터 시스템 및 솔루션 그룹 부사장은 “개방형 모델은 기업이 AI를 도입하는 데 있어 선택의 폭을 넓히고 있다”며 “이러한 모델의 잠재력을 최대한 실현하려면 다양한 워크로드에 적합한 AI 역량과 컴퓨팅 자원, 비용 효율성을 갖춘 인프라가 필요하다”고 말했다.

제온 6+ 랙에 4만6000개 이상 코어…에이전틱 AI 조율 맡는다

인텔은 OCP에서 생태계 파트너들과 공동 개발한 제온 기반 랙 설계도 공개했다. 상당수 설계에는 개방형 데이터센터 인프라 구축과 통합을 단순화하기 위한 OCP 오픈 랙 v3(ORv3) 표준이 적용됐다.

에이전틱 AI는 여러 모델과 데이터, 외부 애플리케이션을 오가며 작업을 수행하기 때문에 가속기의 연산 성능만으로 전체 시스템 성능을 결정하기 어렵다. 워크로드 조율과 데이터 처리, I/O 관리, 도구 실행 등을 담당하는 범용 컴퓨팅 자원 역시 대규모로 필요하다.

인텔은 일부 제온 6+ 구성에서 총 랙 전력 133.45kW를 기준으로 4만6000개 이상의 코어까지 확장할 수 있도록 컴퓨팅 집적도를 높였다. 이를 통해 다수의 에이전트를 동시에 운용하는 대규모 에이전틱 AI 환경을 지원한다는 계획이다.

제온은 GPU와 특수 가속기를 직접 대체하기보다 이들 가속기와 함께 동작하면서 전체 워크플로를 조율하는 역할을 맡는다. 데이터 이동과 작업 실행을 관리하고 가속기에 필요한 데이터를 지속적으로 공급해 시스템 전체의 자원 활용도를 높이는 구조다.

인텔은 향후 AI 인프라의 성능 평가 기준 역시 단순 연산 성능에서 목표 지연 시간을 유지하면서 하나의 랙이 동시에 처리할 수 있는 에이전트 수 등 실제 시스템 처리량 중심으로 변화할 것으로 내다봤다.

인텔 제온 기반 랙 솔루션 디자인

480GB 메모리·1.3페타플롭스…추론 특화 ‘GPU D-시리즈’

이번 발표에서 가장 구체적인 사양이 공개된 제품은 코드명 크레센트 아일랜드인 인텔 GPU D-시리즈다.

인텔 GPU D-시리즈는 최신 Xe3P 아키텍처를 기반으로 최대 480GB의 LPDDR5X 메모리와 1.5TB/s 메모리 대역폭을 제공한다. FP8 기준 연산 성능은 1.3페타플롭스이며, 이를 350W 전력 범위에서 구현하도록 설계됐다.

인텔은 절대적인 연산 성능만 높이기보다 메모리 용량과 연산 성능, 소비전력의 균형을 맞춰 지속적인 AI 추론을 수행하는 데이터센터 환경에서 비용 효율성을 높이는 데 초점을 맞췄다.

대규모 언어 모델과 긴 컨텍스트를 처리하는 워크로드, 다수 이용자에게 동시에 추론 서비스를 제공하는 환경도 주요 목표다. 단일 GPU 카드에서는 최대 3000억 개 매개변수를 가진 모델을 지원하며, GPU 8개로 구성한 시스템에서는 1조 개 이상의 매개변수를 가진 모델을 지원하도록 설계됐다.

활용 대상에는 멀티테넌시 AI 서비스와 로보틱스, 지연 시간에 민감한 추론 워크로드 등이 포함된다.

도입 방식도 기존 데이터센터와의 호환성을 고려했다. 표준 PCIe 폼팩터와 공랭식 냉각 방식을 적용해 별도의 전용 랙이나 새로운 냉각 인프라를 추가하지 않고 기존 시스템에 구축할 수 있도록 했다. 공통 Xe 소프트웨어 기반을 적용해 인텔 GPU 플랫폼 사이의 애플리케이션 이식성도 지원한다.

아닐 난두리(Anil Nanduri) 인텔 데이터센터 그룹 AI 제품 및 GTM 담당은 “추론은 AI의 핵심 워크로드로 자리 잡고 있으며 기업에는 적절한 비용으로 필요한 성능을 제공하는 인프라가 필요하다”며 “인텔 GPU D-시리즈를 통해 대규모 추론을 실용적으로 구축하고 비용 효율적으로 확장할 수 있도록 하는 데 주력하고 있다”고 말했다.

현재 고객 대상 샘플 공급도 진행되고 있다. 인텔은 OEM과 ODM, 네오클라우드, 독립 소프트웨어 공급업체(ISV), 어플라이언스 업체, AI 전문기업 등과 협력해 검증된 플랫폼과 소프트웨어 통합, 즉시 배포 가능한 솔루션을 확대할 계획이다.

CPU·GPU 넘나드는 개방형 소프트웨어…신규 모델 ‘Day 0’ 지원

인텔은 하드웨어와 함께 이기종 AI 환경을 하나의 소프트웨어 기반에서 운용할 수 있도록 개방형 소프트웨어 전략도 강화한다.

GPU D-시리즈에는 다른 인텔 GPU와 공통된 Xe 소프트웨어 기반을 적용한다. 개발자가 기존 애플리케이션을 최대한 재사용하면서 새로운 하드웨어로 워크로드를 옮길 수 있도록 해 플랫폼 전환 과정에서 필요한 개발 부담을 줄이는 방식이다.

AI 프레임워크와 추론 서빙 엔진, 개발 도구도 개방형 생태계를 중심으로 지원한다. 인텔은 추론 처리량을 높이는 성능 라이브러리와 프로그래밍 가능한 소프트웨어 계층을 제공하고, 제온에서 실행되는 추론 및 에이전틱 AI 애플리케이션까지 연계해 개발자가 CPU와 GPU를 함께 활용할 수 있도록 한다.

새로운 개방형 모델에 대한 ‘데이 제로(Day 0)’ 지원도 확대한다. 신규 모델이 공개되는 시점부터 GPU D-시리즈와 제온 환경에서 활용할 수 있도록 업스트림 프레임워크 통합과 모델 지원을 진행한다. 최근에는 메타의 ‘뮤즈 글리머(Muse Glimmer)’에 대한 데이 제로 지원을 적용했다.

실제 기업용 AI 에이전트 환경을 겨냥한 소프트웨어도 제공한다. ‘인텔 AI 엔터프라이즈 에이전트 툴킷’은 현재 제온 프로세서에 최적화된 형태로 배포할 수 있으며, 실제 운영 환경에서 에이전틱 애플리케이션을 조율하는 기능을 제공한다.

공급자 기반 아키텍처를 채택해 향후 인텔 GPU까지 지원 범위를 넓힐 수 있도록 설계했으며, 멀티모달 AI 워크플로와 이기종 컴퓨팅 환경으로 확장할 수 있는 기반도 갖췄다.

OCP 기여 116건…가속기 폼팩터 표준화도 추진

인텔은 하드웨어와 소프트웨어뿐 아니라 데이터센터 인프라 자체의 개방성 확대에도 나서고 있다. 인텔은 2011년 이후 OCP에 총 116건을 기여했다고 밝혔다.

올해 행사에서는 업계 파트너들과 진행하는 ‘오픈 어댑터 카드(Open Adapter Card)’ 워킹그룹 활동도 소개한다. 표준화된 서브랙 가속기 카드 폼팩터를 정의해 기계적·전기적·관리 측면의 상호운용성을 높이는 것이 목표다.

이를 통해 시스템 제조사와 클라우드 사업자가 특정 가속기에 종속되지 않고 다양한 가속기를 개방형 데이터센터 인프라에 보다 일관된 형태로 통합할 수 있도록 한다.

인텔은 이러한 개방형 이기종 인프라가 기업의 기존 데이터센터 투자를 유지하면서 새로운 AI 기술을 단계적으로 추가하는 데 유리하다고 설명했다. 기존 x86 환경을 활용하면서 워크로드 변화에 따라 CPU와 GPU, 새로운 가속기를 선택적으로 도입해 추론 시스템을 확대할 수 있기 때문이다.

케보크 케치찬(Kevork Kechichian) 인텔 데이터센터 그룹 총괄 수석부사장은 “에이전틱 AI는 데이터센터에 대한 고객의 요구를 변화시키고 있다”며 “성공은 단일 구성 요소가 아니라 제온, 목적별 가속 기술 및 상호운용 가능한 소프트웨어를 결합한 개방형 이기종 인프라에 달려 있다”고 말했다.

이어 “인텔은 고객이 기존 투자를 활용하는 동시에 새로운 AI 워크로드를 효율적으로 확장할 수 있는 유연한 기반을 구축하도록 지원하고 있다”고 덧붙였다.

인텔 GPU D-시리즈를 지원하는 고객 및 파트너

인텔은 OCP 글로벌 서밋 기간 부스 B32에서 관련 기술을 전시한다. 니콜라스 뒤베 부사장의 기조연설은 한국시간 10월 14일 오전 2시 30분 진행되며, 인텔은 이외에도 30개 이상의 기술 세션과 발표에 참여할 예정이다.

이준문 기자/jun@newstap.co.kr

ⓒ 뉴스탭(https://www.newstap.co.kr) 무단전재 및 재배포금지