글로벌 오픈소스 솔루션 기업 레드햇이 AI 반도체 스타트업 리벨리온과 손잡고 ‘리벨리온 NPU 기반 레드햇 오픈시프트 AI(Red Hat OpenShift AI powered by Rebellions NPUs)’를 공개했다. 이번 신제품은 레드햇의 엔터프라이즈 AI 플랫폼 ‘오픈시프트 AI’에 리벨리온의 고효율 NPU와 vLLM 기반 추론 엔진을 결합한 것으로, 하드웨어부터 모델 서빙까지 아우르는 풀스택 AI 추론 환경을 제공한다.

레드햇은 이번 협력이 자사의 전략인 ‘모든 모델, 모든 가속기, 모든 클라우드(any model, any accelerator, any cloud)’를 구현하기 위한 중요한 진전이라고 밝혔다. 기업들이 AI를 실제 운영 환경에 도입하는 과정에서 비용 부담, 배포 복잡성, 보안 및 규제 준수 문제 등이 커지는 가운데 GPU 중심의 기존 인프라만으로는 대규모 AI 활용에 한계가 있다는 점이 배경이다. 양사는 이러한 과제를 해결하기 위해 확장 가능하고 효율적인 대안으로 NPU 기반 AI 추론 플랫폼을 제시했다.

리벨리온의 NPU는 AI 추론에 최적화된 구조로, 기존 GPU 대비 높은 에너지 효율을 제공한다. 서버와 랙 단위에서 전력 및 운영 비용 절감 효과를 확보할 수 있으며, 리벨리온이 제공하는 특화 소프트웨어 스택과 주요 오픈소스 AI 프레임워크 연동을 통해 GPU와 유사한 개발 환경을 구현한다. 또한 리벨리온 NPU 오퍼레이터는 레드햇 오픈시프트의 인증을 획득해 온프레미스와 멀티클라우드 환경에서 안정적으로 통합 운영할 수 있도록 지원하며, 데이터 주권 확보 및 규제 준수에도 기여한다.

‘리벨리온 NPU 기반 레드햇 오픈시프트 AI’는 고성능·저지연·고효율의 엔터프라이즈급 AI 추론 기능을 제공한다. 리벨리온의 랙 스케일 NPU 솔루션과 통합된 vLLM 기반 아키텍처를 통해 대규모 언어 모델을 포함한 다양한 AI 추론 워크로드를 안정적으로 처리할 수 있으며, 레드햇의 통합 관리 플랫폼을 적용해 NPU를 GPU처럼 손쉽게 운영할 수 있도록 했다. 기업은 코어부터 엣지까지 데이터가 존재하는 모든 위치에서 선형 확장을 기반으로 유연하게 배포할 수 있다.

브라이언 스티븐스 레드햇 AI 부문 수석부사장 겸 CTO는 “엔터프라이즈 AI의 미래는 단일 구조의 독점 스택을 넘어 다양한 아키텍처를 선택할 수 있어야 한다”며 “레드햇은 오픈시프트 AI의 확장성과 리벨리온의 효율적 NPU를 결합해 엔터프라이즈가 실제 운영 환경에서 요구하는 효율성, 저지연성, 수평 확장성을 갖춘 검증된 풀스택 대안을 제공한다”고 강조했다.

박성현 리벨리온 대표는 “AI 서빙과 추론이 본격화되며 기업들은 성능, 비용, 데이터 주권을 모두 만족시키는 인프라를 요구하고 있다”며 “이번 협력은 하드웨어부터 모델 서빙까지 오픈소스를 기반으로 통합된 추론 플랫폼을 제공하는 첫 사례로, GPU 중심 환경을 넘어 NPU 기반 추론 인프라의 새로운 대안을 제시하게 될 것”이라고 말했다.

양사의 협업으로 탄생한 이번 솔루션은 에너지 효율, 확장성, 규제 준수, 운영 편의성 등 기업이 AI 인프라 구축 시 마주하는 주요 요구 사항을 통합적으로 해결할 수 있는 새로운 옵션을 시장에 제시했다는 점에서 의미가 크다.

이준문 기자/jun@newstap.co.kr

ⓒ 뉴스탭(https://www.newstap.co.kr) 무단전재 및 재배포금지