[IT동아 남시현 기자]

“몇 년 전만 해도 개인이 AI를 쓸 때 필요한 연산량이 많지 않았지만 에이전틱 AI가 등장하며 개인의 사용량만 해도 최소 백 배 이상 증가한 상황이다. 문제는 아직 AI에 일을 맡기는 사람이 0.1% 정도일 텐데 이 비중이 확대된다면 AI 인프라 수요는 폭발할 것이다. 피지컬AI나 멀티모달 AI로 인한 수요도 몇십 배씩 증가하고 있다. 반대로 공급 측면에서는 병목이 발생하며 수요 대응이 제한적이다. 그렇기 때문에 추론과 사후학습에 최적화된 네오클라우드가 화두가 되는 것이다”

MLOps 및 네오클라우드 전문 기업인 베슬AI가 10월 15일 기자들을 대상으로 ‘네오클라우드 전략 발표회’를 열고 베슬AI가 인프라 사업자로 전환한 배경과 향후 도약 로드맵을 공개하는 자리를 마련했다. 베슬AI는 2020년 4월 설립된 AI 인프라 스타트업으로 당초 머신러닝 모델의 개발 및 운영을 통합하여 관리하는 ‘MLOps’ 전문 기업이었다. 하지만 지난해 11월부터 네오클라우드로 사업 전반을 재편한 뒤 올해 2월 베슬 클라우드(VESSL Cloud)를 공식 출시했다.

네오클라우드로의 전환 1년을 앞둔 현재 베슬AI는 업스테이지의 솔라 프로 4 글로벌 추론 인프라를 담당하고 있으며, 현재 엔비디아 블랙웰 B200 1000장을 포함해 총 7000여 장 규모의 그래픽 처리 장치 인프라를 운용 중이다. 베슬AI는 올해 말까지 GPU 1만 장, 내년에는 5만 장까지 확보해 아시아 최대 규모의 네오클라우드 사업자로 발돋움하려 준비 중이다.

베슬AI, 2028년 매출 2조 목표··· ‘글로벌서 기술 인정받는 중’

설명에 앞서 안재만 대표는 사업 전반이 MLOps에서 네오클라우드로 전환된 배경을 먼저 설명했다. 안재만 대표는 “네오클라우드는 일반적인 클라우드 서비스 사업자와 달리 대규모 학습에 최적화된 인프라를 구성한다. 예를 들어 단순히 GPU 센터로 연산을 공급하는 게 아니라 대규모로 연결된 장치에서 어떻게 연산을 효율적으로 잘 처리할 것인가가 본질이다”라면서 “MLOps에서부터 가장 집중했던 것은 GPU를 잘 연결해서 대규모 학습과 추론을 가능하게 잘 관리하는 것이었고 이를 자원 측면에서 병합하고 잘 관리하자는 측면에서 네오클라우드 기업으로 진화한 것”이라고 말했다.

그 핵심에 있는 기술이 플루이드 컴퓨팅이다. 플루이드컴퓨팅은 흩어져 있는 대규모 GPU 연산 자원을 작업 단위로 유연하게 나눠 배치하고 스케줄링하여 가동 효율을 극대화하는 자원 관리 방식이다. 쉽게 말해 가동률은 끌어올리고 처리 작업은 끊이지 않도록 지원하는 역할을 한다. 안재만 대표는 “2024년부터 해당 기술로 직접 클라우드 서비스를 시작했고 작년부터 대규모 컴퓨팅 수요가 커지며 네오클라우드로 전환했다. 주요 고객사로는 독자 파운데이션 모델 구축 사업에 참여하는 업스테이지, 모티프 등이 우리 플랫폼으로 진행하고 실리콘 밸리의 고객사들도 많다. 학습 안정성과 효율화 때문에 많은 선택을 받고 있다”라고 말했다.

해외 고객들이 베슬AI를 찾는 것은 단순히 자평이 아닌 실제 수요기업들의 평가다. 반도체 시장 분석기업 ‘세미애널리시스’가 관찰하는 323개 기업 중 전 세계 77곳의 클라우드 서비스를 평가한 클러스터 맥스 3.0에 따르면 베슬AI는 벌처(Vultr), IBM 클라우드와 동급의 Participation(참여) 등급을 획득했다. 이 등급은 운영에 필요한 최소한의 기준을 갖췄고 대규모 도입에는 검증이 필요하지만 합리적인 선택지가 될 수 있는 수준에 부여된다.

안재만 대표는 “구체적인 평가 기준을 말해주지는 않아 어떤 면에서 좋은 평가를 받았는지는 모르겠으나 실제 고객사들은 운영 안정성이 높다고 평가했다. 대규모 학습 추론에서는 각 인프라 구성요소가 각각의 이유로 장애를 일으키는데 선제적으로 조치해 학습과 추론이 끊기지 않게끔 한다. 기업들이 GPU를 사용하는 것 자체가 투자 수익이라 그렇다”라고 말했다.

전지환 CTO 역시 “네오클라우드를 사용한 기업들을 만나보니 전체 오류 중 약 30%만 서비스 제공자가 대처하고, 나머지는 고객사가 알려준 뒤에야 대응한다고 말했다. 베슬AI는 전체의 약 80% 정도를 선제 대응하고 있어서 고객 작업이 끊기지 않도록 한다. 고객 입장에서는 장애 해결도 중요하지만 고객 GPU가 끊겨도 사전에 인지하고 관리한다는 것을 더 인상깊게 보고 찾는 것 같다”라고 덧붙였다.

베슬AI가 목표로 두는 올해 매출은 약 2500억 원, 올해 상반기에만 1300억 원을 달성했다고 밝혔다. 단계적으로 2027년 목표는 7000억 원, 2028년까지는 2조 원 이상 매출을 목표로 잡았다. 이를 실현하기 위해 현재 GPU 금융은 약 4000억 원이 진행 중이며, 내년에 2조 원 규모로 이를 확대한다. 안재만 대표는 “한국뿐만 아니라 미국, 싱가포르의 증권사 및 투자은행까지 총 여덟 곳과 협의 중이며 구조는 GPU 금융, GPU 파이낸싱으로 한다. 업계에서 우리의 입지가 특별하다고 평가받고 있어 긍정적이다”라고 말했다.

GPU 운영 숫자는 현재 약 7000대 수준이며 연말까지 1만 대 확보가 목표다. 내년에는 최대 5만 장까지 확보하는 것을 목표로 하며 GPU를 직접 보유하거나 파트너와 같이 확보하는 등 다양한 방안을 구상 중이라고 한다. 특히 한국에 있는 데이터 센터들을 공격적으로 확보하고 있으며 2028년에는 500MW 수준의 데이터센터를 확보하려는 계획이다. 안재만 대표는 “2028년 중에는 국산 NPU 기반의 AI 팩토리도 구축할 예정이다. 리벨리온, 퓨리오사AI 등 다양한 신경망처리장치(NPU) 기업들과 직접 협의 중이며 리벨리온은 아톰맥스로 실증 중이다. 학습은 GPU로 진행하고 추론은 국산 NPU로 진행하는 AI 팩토리를 구축할 것”이라고 말했다.

기술 로드맵 측면에서는 2027년 상반기 중 엔비디아 DGX 베라 루빈 NVL72 기반 클러스터 서비스를 시작하며, 플릿(Fleet) 운영 완전 자동화를 이뤄내 글로벌 수준의 인프라 신뢰성을 확보하는 것이 목표다. 전지환 CTO는 “내년에 국내 최초로 베라루빈 클러스터를 서비스할 예정이다. 베라 루빈 GPU는 호퍼, 블랙웰 아키텍처보다 성능, 사후학습 효율이 좋아서 국내 프론티어 모델 개발 사업에 큰 역할을 할 것”이라고 말했다.

플릿은 하이퍼스케일 등 대규모로 AI 인프라 자원을 보유, 운영하는 사업자가 시설, 서버, 클러스터 등 자산의 집합체를 의미하며 이를 자동화로 관리하는 것이 목표다. 전지환 CTO는 “AI 에이전트를 통해 플릿 운영 완전 자동화를 이뤄내고 글로벌 수준의 인프라 신뢰성 확보를 이뤄낼 예정이다. 하나의 클러스터를 운영할 때 얼마나 안정적인지, GPU에서 문제가 발생했을 때 이를 복구하고 재관측하는 과정까지 모두 자동화 기반 서비스로 만들고자 한다”라고 말했다.

마침 폭락한 네오클라우드 주가, 베슬AI도 꾸준한 신뢰 쌓아야

한편 15일 새벽 미국 시장에서는 네오클라우드 기업의 대표 주자인 코어위브, 네비우스의 주가가 각각 10%, 15%씩 폭락했고 AI 인프라 시장 전반에 대한 의구심이 쌓여가고 있다. 네오클라우드 사업을 시작한 베슬AI 역시 대비가 필요한 부분이다. 이와 관련해 안재만 대표는 “해당 기업들은 대규모의 부채를 바탕으로 대규모 자본 조달과 투자를 통해 성장한 기업이어서 부채에 대한 위험성이 컸다. 반면 우리는 협력사들, 파트너사들과 함께 데이터센터를 활용하는 구조라서 자산에 대한 부담이 조금 더 적다. 또한 소프트웨어 측면에서 강점을 내세우고 있어서 부채가 조금 더 적은 형태로 사업을 할 수 있다”라고 말했다.

이어서 “그럼에도 변하지 않는 것은 두 기업 모두 잔고는 몇십 조 이상 쌓여있고, AI 컴퓨팅 수요는 폭발적으로 성장하고 있다는 점이다. 빠르게 성장하는 시장에서의 잠재력과 부채에 대한 비판적인 시각에 따른 해석에서 생긴 문제 같다. 베슬AI는 본질적으로 좀 다른 기업이고 다각적으로 해석을 하고 있다”라고 답했다.

코어위브의 주가 폭락을 계기로 네오클라우드 시장의 성패는 단순히 GPU 자원을 얼마나 공급하는가를 넘어서 제한된 GPU 자원을 얼마나 효율적으로 고객에게 안정적으로 제공하고, 또 대규모 자본 투입에 따른 재무적 위험을 어떻게 통제하는가로 바뀌었다. 베슬AI는 지난 6년간 축적한 MLOps 및 소프트웨어 기술력을 경쟁력으로 내세우고 있으며 글로벌 빅테크와 통신사들 사이에서도 가파른 매출 성장세를 기록하며 기술을 증명하고 있다. 하지만 이번에 제시한 2028년 500MW 데이터센터와 2030년 GPU 20만 장이라는 목표는 쉽게 달성할만큼 호락호락해 보이지 않는다. 앞으로 이를 얼마나 차질없이 수행하는가에 따라 아시아 최대 네오클라우드 사업자 여부가 달렸다.

IT동아 남시현 기자 (sh@itdonga.com)