[IT동아 남시현 기자] AI 반도체 기업 퓨리오사AI가 주최하고 시스원(SysOne)이 주관하는 ‘2026 K-NPU 테크 웨이브)가 7월 14일 서울시 중구 더 플라자 호텔에서 개최됐다. 이번 행사는 퓨리오사AI가 설계한 신경망 처리 장치(NPU) RNGD를 활용하거나 이를 기반으로 국내 AI 반도체 생태계를 구성 중인 업계 관계자들을 대상으로 제품 및 기술을 소개하기 위해 마련됐다.

기조연설은 김은주 한국지능정보사회진흥원(NIA) 본부장이 ‘국산 NPU와 AI 주권 : 공공의 역할과 전략’을 주제로 맡았으며, 강지훈 퓨리오사AI 최고연구책임자와 강경원 시스원 이사, 최정진 삼성SDS 그룹장, 장정훈 와이즈넛 최고기술책임자, 홍석환 두다지 대표가 퓨리오사 AI NPU 및 관련 생태계에서의 역할 등을 소개하는 순서로 진행됐다.

백준호 퓨리오사AI 대표는 “RNGD는 올해 초부터 생산을 시작해 현실 서비스에 적용되기 시작했고, 고도화된 모델들과 소프트웨어도 준비됐다. 지금부터가 우리 AI 반도체 생태계를 만들어나가는 출발점이다. 지금까지는 생태계와 연구개발에 집중했다면 이제는 AI 반도체를 둘러싼 새로운 생태계 조성, 고부가가치 확보에 매진해야 한다. 퓨리오사AI는 생태계의 씨앗이 되어서 AI 반도체가 칩을 넘어서 우리 설루션과 한국 AI 생태계 전반에 큰 부가가치를 만들고, 성장 동력과 미래를 만들어나가겠다”라고 말했다.

김영주 시스원 대표는 “시스원은 지난 40년 간 대한민국 인프라 역사와 함께하며 신뢰를 쌓아왔으며, 고비용, 고전력의 한계를 넘어서 대한민국 독자 인프라 경쟁력을 위해로 퓨리오사AI RNGD를 제안한다. RNGD는 기존 시장의 양상을 바꿀 초고효율의 게임 체인저며, 시스원의 축적된 인프라 통합 기술과 엔지니어링 역량을 통해 RNGD가 공공, 금융, 기업 시장에 안정적으로 안착할 수 있도록 지원하겠다”라고 말했다.

퓨리오사AI RNGD는 현장 배치··· 시스원이 앞장서

핵심인 RNGD는 지난 1월 양산을 시작해 본격적으로 제품이 인도되고 있다. 강지훈 퓨리오사AI 최고연구책임자는 “RNGD는 HBM을 비롯해 현세대에서 가장 좋은 기술을 집약한 칩이며, 국내에서 출시된 반도체 중 손에 꼽을 정도로 큰 칩이다. 총 48GB의 HBM 메모리와 256MB의 S램이 탑재돼 다양한 종류의 추론 작업에서도 효과적이다. 그렇지만 열설계 전력(TDP)은 180W로 낮다”라고 소개했다.

이어서 “엔비디아 GPU에 비해 에너지를 절반 이상 더 적게 쓰면서도 대등한 성능을 내는 상황이다. 여덟 대를 하나의 서버로 구축해도 3kW 수준이어서 하이퍼스케일로 구축할 때는 한 렉에 15kW까지도 집약할 수 있다. 경쟁 제품인 RTX PRO 6000과 비교한 내부 자료로는 40%에서 최대 70% 더 많은 토큰을 생성하며, 512 배치에서 초당 1만 2천 토큰 이상도 생성했다”라고 말했다. 제품 상황과 관련해 “7월 현재 소프트웨어는 준비됐고 고객이 필요하면 바로 전달할 수 있다. 현장에서 시스원, 삼성SDS, 와이즈넛, 두다지 등의 파트너와 함께 애플리케이션을 만들고 서비스로 찾아보실 수 있다”라고 소개했다.

시스원은 퓨리오사AI RNGD의 총판사로 제품의 판매 및 공급, 유통은 물론 현장 배치와 사업화까지 모든 면을 지원한다. 시스원은 시스템 통합 전문 기업으로 시작해 현재는 하드웨어 및 소프트웨어, 클라우드, 정보보안 등 다양한 영역에서 사업을 진행 중이다. 특히 산업용 저장장치 전문 기업 넷앱을 비롯해 HPE, 델 테크놀로지스, 시스코 등 하드웨어 파트너사이기도 하다. 특히 공공 조달 총판사면서 KT클라우드, 이스트시큐리티 등 국내 IT 인프라 및 보안 기업들과도 협력 관계에 있다. 퓨리오사AI가 시스원과 손을 잡은 것은 시스원의 네트워크를 활용해 비교적 안정적으로 시장에 도입사례를 만들기 위함이다.

강경원 이사는 “일반적인 총판은 제품을 쌓아놓고 유통하는 게 전부지만 시스원은 퓨리오사AI와 긴밀하게 협력해 제품 상담부터 구축, 설치, 운영, 사후 지원까지 전 사이클을 지원한다. 자체적으로 AI 설루션 실증 센터를 운영하며 소규모 구축부터 대규모 지원까지 모두 가능하다”라면서 “AI 실증 센터는 전담 엔지니어가 AI 모델이 NPU에서 구동되는지를 검증하며, 모델 포팅 및 튜닝은 물론 개념 증명까지 진행해 도입 시 불확공실성을 줄인다. 고객사 대상 개념증명(PoC)는 무상으로도 제공하고, 파트너사가 퓨리오사AI와 소프트웨어를 모두 제공할 수 있도록도 구성했다”라고 소개했다.

실증 도입 사례도 제시됐다. 강경원 이사는 “국내 한 공사에서는 내부 서비스로 엔비디아 H200 4대 도입을 고려했지만 예산도 모자랐다. AI 설루션 실증 센터와 PoC 결과 8대의 RNGD로 대체할 수 있다고 보고 8월 중 구축을 진행할 예정이다. 덕분에 도입 비용은 30%가 줄었고 연간 전력 비용도 절반 가까이 줄었다. 납기는 8주 이내 가능하며 물리적 공간도 절반으로 줄었다”라고 말했다.

덧붙여 “국내 기업 중 1000명이 재직하고 동시 접속 200명이 쓰는 규모의 기관에서 내부 문서 검색 서비스를 구축하려 우리를 찾았다. 기존에 보유한 서버의 메모리를 증설하고 RNGD를 두 장만 활용한 뒤 업데이트 및 호환 작업을 거쳐 NPU를 도입했다. 도입 비용은 당초 예상보다 80%가 줄었다. 시스원과 퓨리오사AI는 소규모 AX 전환부터 저비용 고효율의 AI 도입 전반을 지원할 것”이라고 말했다.

퓨리오사AI 생태계 확보에 팔 걷어붙인 삼성SDS·와이즈넛·두다지

이어서 최정진 삼성SDS 그룹장이 삼성 클라우드 플랫폼(이하 SCP)과 RNGD 기반의 NPUaaS(서비스형 NPU)를 소개했다. 최정진 그룹장은 “SCP는 2021년도에 시작한 기업용 클라우드며 컴퓨터, 스토리지, 네트워크, 보안 등 100가지 이상의 상품을 갖췄으며, 심플 AI 트레이닝과 심플 AI 인퍼런스로 완전 관리형 학습 플랫폼을 제공한다”라며 설명을 시작했다. 이어서 “오는 7월 16일부터는 RNGD를 기반으로 한 NPU 서비스를 출시하며, GPU와 NPU 모두 제공한다. 1장, 2장, 4장, 8장 단위로 가상화 서버를 이용할 수 있으며 클러스터 또는 완전관리형, 서버리스 형태로 GPU, NPU를 같이 쓸 수 있다”라고 소개했다.

핵심은 작업 환경을 감지해 최적의 하드웨어로 연결하는 지능형 추론 라우팅, 믹스 워크로드 스케쥴링 등이다. 지능형 추론 라우팅은 고객사가 NPUaaS를 신청해 그 자체를 쓸 수 있지만 SCP상에서 추론 작업의 결과를 예측해 가장 빠르고 비용을 절감할 수 있는 방법을 선택한다. 내부적으로 GPU 캐시를 압축해 중복을 제거해 효율화한다거나, 유휴 GPU 및 NPU가 없이 가동률을 최적화한다. 믹스 워크로드 스케쥴링은 자산을 활용하지 않는 시간대를 스케쥴링해 가동률을 올리는 기술이다.

아울러 최정진 그룹장은 “해남 솔라시도에 국가 AI컴퓨팅 센터를 구축하고, 기업은 물론 기관에까지 GPU와 NPU를 서비스하는 사업을 시작한다. 서비스 측면에선 현재 B300을 GPUaaS로 출시했고, 내년에 베라루빈도 적용한다. 퓨리오사AI와는 기술 협력을 통해 사업을 확장하고 심 AI 인퍼런스 같은 방식을 통해 사업을 확장할 것”이라면서 “프렌들리AI나 베슬AI같은 파트너 생태계와, 퓨리오사AI같은 반도체 및 인프라 기업과 함께 생태계를 구축해 고객에게 풀스택으로 서비스를 제공할 것”이라 말했다.

장정훈 와이즈넛 CTO는 공공 AI 어플라이언스에 대해 소개했다. 장정훈 CTO는 “AI에 들어가는 비용은 크게 두 가지다. 학습 비용은 처음에 크게 비용이 들어가는 일회성 비용, 추론 비용은 이용료에 해당한다. 현재 추론 비용이 전체 3분의 2 정도가 됐고, 2030년까지 70%까지 오를 수 있다. 공공기관에서는 여전히 도입을 주저하고 있지만 결국 전체 비용을 고려해 도입 중”이라고 설명을 시작했다.

이어서 “초기 도입 비용의 경우 수급 및 발주는 물론 관련 시설이나 운용 비용, 기간 대비 비용까지 계속 들어간다. 전력이나 냉각 문제없이 서버실에 바로 들어가거나 폐쇄망에서 완벽하게 구동되는 등 다양한 조건 등도 붙는다. 또한 예산과 인력이 지속 가능한지도 봐야 한다. 와이즈넛은 공공 AI 어플라이언스를 박스 형태로 만들어 특정 서비스가 NPU위에서 돌아가도록 제공한다”라고 말했다.

와이즈넛이 제공하는 퓨리오사AI 박스 서버는 사용 화면, 운영 화면, 대화형 AI 서비스나 관리자 작업이 모두 한 번에 가능하다. 또 공공기관에서는 정형화된 서비스가 아닌 AI 에이전트 형태로 기존 시스템과 연계해서 사용할 수 있도록 구성된다 와이즈넛은 국민건강보험공단에 관련 AI 서비스를 구축하고 고도화했으며, 지자체로는 최초로 경기도청에도 비정형 데이터를 파이프라인화해 처리하고, 개별 업무 단위로 연동하는 작업을 진행 중이다.

마지막으로 홍석환 두다지 대표가 GPU 환경에서 NPU 환경으로의 전환 환경에 대해 소개했다. 두다지는 국산 NPU를 더 쉽게 쓸 수 있도록 지원하는 호환성 플랫폼 누파이(Nufi)를 서비스 중이며, 올해 3월 퓨리오사AI와 양해각서를 체결하고 AI 가속기 생태계 공동 구축에 나섰다.

홍석환 대표는 “기존 GPU 구성 조건을 포기하고 NPU로 가자는 건 쉽지 않고, 기존 환경에 맞춰 통합하는 것이 중요하다”라며 설명을 시작했다. 핵심은 컴파일 및 최적화를 통해 최적의 모델을 찾아주는 옵티마이저, 컴파일된 파일을 비교해 최적의 모델 선정을 지원하는 리더보드 및 아티팩트 관리, 압축 전후 모델의 성능을 비교 분석하는 작업 환경 제공이다.

기술 측면에서는 쿠버네티스 환경에서 안정적인 서빙 인프라를 구축하는 서빙 마법사, GPU 및 NPU 통합 모니터링 및 가동률 조정을 통한 발열 관리 시스템 등을 서비스 중이며, 사용자 요청에 따라 퍼블릭 클라우드와 프라이빗 클라우드를 자동으로 분배하는 라우팅도 개발 중이다. 두다지는 퓨리오사AI NPU를 사전에 활용하는 권한을 바탕으로 NU 관련 기술을 누파이 환경에 선제적으로 통합해 퓨리오사AI NPU 실증 및 데이터센터 적용을 지원할 예정이다.

퓨리오사AI, 구축 지원 총판사 시스원과 성과 기대

2026년은 퓨리오사AI 확산의 원년이다. 퓨리오사AI는 올해 본격적으로 RNGD 초도물량 양산을 시작했으며 AI 반도체 생태계 확보 및 기업, 기관과의 협력을 강화하고 있다. 기조연설을 맡은 김은주 NIA 본부장도 “정부 역시 AI 산업의 트렌드가 학습에서 추론으로 전환되었음을 인지하고 시장에 발맞추려 한다. 공공에서 바라는 것은 운영 비용 절감이며 안정적인 운용 비용과 성능을 제공하는 NPU를 활용하지 않을 이유가 없다. 또한 NPU로 60%에 달하는 추론 작업을 대체하는 것은 소버린 AI와도 연결된다”라면서 “통합 CCTV 관제 등 공공에 필요한 사업부터 도입사례가 생길 것”이라 말한 바 있다.

이날 간담회에 참석한 협력사들은 기관 및 기업의 NPU 도입을 지원하는 원팀이다. 시스원은 인천국제공항을 비롯한 여러 정부 기관 등에 핵심 서비스를 제공 중이며, 삼성SDS는 ‘국가 AI 컴퓨팅 센터’ 구축을 비롯해 다양한 기업 및 기관에 클라우드를 서비스 중이다. 또한 공공 AI 어플라이언스를 구축 중인 와이즈넛이, GPU의 NPU 대체를 지원하는 두다지도 중요한 연결고리다. 퓨리오사AI를 중심으로 한 NPU 슈퍼팀이 발 빠르게 속도전을 펼칠지 기대를 모으는 바다.

IT동아 남시현 기자 (sh@itdonga.com)