[IT동아 남시현 기자] 미국의 AI 반도체 기업 세레브라스(Cerebras)가 7월 11일, 업스테이지와의 협력 방안을 발표했다. 세레브라스는 2015년 설립된 미국의 AI 가속기 스타트업으로 300mm 웨이퍼 한 장을 절단하지 않고 그대로 사용하는 WSE 칩을 핵심으로 내세운다. 최신형인 WSE-3는 칩 하나에 4조 개의 트랜지스터와 90만 개의 AI 코어를 탑재하며 44GB의 온칩 SRAM를 탑재해 최고 성능의 대형언어모델(LLM) 서빙 성능을 갖췄다고 평가받는다.

이번 협력을 통해 업스테이지의 솔라 31B 모델이 세레브라스의 WSE에서 구동되며 초당 최대 2000개의 토큰을 처리하게 된다. 특히 연구실, 개발 단계를 넘어 업스테이지가 서비스하는 ‘다음’ 포털사이트의 AI 요약에 세레브라스의 하드웨어가 활용된다. 일반 사용자가 활용할 수 있는 상용 서비스에 세레브라스의 AI 가속기가 활용된다는 말이다.

외국계 기업인 세레브라스가 한국 기업에 즉시 추론 서비스를 제공할 수 있는 배경으로는 상용 서비스인 ‘세레브라스 추론 클라우드(Cerebras Inference Cloud)’ 덕분이다. 세레브라스 추론 클라우드는 세레브라스가 GPU 기반 추론 클라우드 인프라의 한계를 넘고자 만든 초고속 AI 추론 전용 클라우드 서비스며, WSE가 직접 작동하며 빠른 속도와 효율성으로 LLM을 배포한다. 특히 지난 3월에는 AWS와 파트너십을 맺고 향후 몇 달 안에 AWS 트레이니엄과 세레브라스 CS-3가 통합된 시스템을 통해 몇 달 안에 생성형 AI 및 LLM 작업을 할 수 있는 추론 설루션을 제공하겠다고 한 바 있다.

WSE-3 기반의 CS-3 시스템으로 구축된 세레브라스 추론 클라우드의 추론 속도는 일반적인 GPU 클라우드 대비 최대 15배에 달하며, 오픈AI의 호환 API를 지원해 개발자들은 기존에 사용하던 개발 워크플로우나 코드를 거의 변경하지 않고 세레브라스의 서비스를 이용할 수 있다. 업스테이지의 솔라 모델 역시 세레브라스 추론 클라우드에서 개발 코드 등을 거의 변경하지 않고 활용할 수 있다. 특히 초당 수십테라바이트의 대역폭을 갖춘 SRAM을 대규모로 갖고 있는 만큼 수백 개의 정보 출처를 종합하는 심층 검색(RAG), 실시간 데이터 분석, 자연스러운 음성 AI 비서 등 서비스에서 낮은 지연 시간을 제공한다.

김성훈 업스테이지 대표는 “세레브라스와 협력해 업계 최고 수준의 추론 속도를 자랑하는 솔라 대형언어모델을 개발자들에게 제공할 수 있게 됐다. 업스테이지와 세레브라스는 앞으로도 바로 사용 가능한 AI 애플리케이션의 대규모 구축에 함께하겠다”라고 말했다.

줄리 최 세레브라스 최고 마케팅 책임자 역시 “한국은 AI 혁신의 최전선에 있으며, 업스테이지와 협력해 한국을 비롯한 전 세계 개발자들과 기업들을 새로운 차원의 추론 성능을 제공할 수 있게 되어 기쁘다”라고 말했다.

세레브라스, 업스테이지 포함한 국내 사업 확장 노리나

줄리 최는 지난 10일 개막한 ICML에 참석해 오픈AI와의 협력 방안에 대해 설명한 바 있다. 아울러 매일경제와의 인터뷰에서 업스테이지와의 협력 방안에 대해 사전에 설명하고, AWS 이외에도 한국의 하이퍼스케일러와도 협력하고 싶다는 뜻을 밝힌 바 있다. 세레브라스의 CS-3 시스템은 일반 GPU 서버 대비 크기가 작기 때문에 네이버, SK텔레콤, KT 등 국내 클라우드 사업자들도 어렵지 않게 도입할 수 있을 정도다.

퓨리오사AI, 리벨리온 등 국내 AI 가속기 기업들 사이에서는 당분간 위기감이 고조될 전망이다. 국내 AI 가속기 기업들 역시 세레브라스와 비슷한 형태의 대형언어모델 추론용 반도체를 서비스 중인데, 국내 주요 LLM 사업자인 업스테이지가 세레브라스를 선택했기 때문이다. 물론 세레브라스는 AWS 덕분에 대규모 서빙을 안정적으로 할 수 있다는 장점이 있으며, 이미 오픈AI와 밀월 관계를 맺고 LLM 서빙용 반도체로 두각을 드러내고 있다. 가격대 작업 효율이 GPU 대비 높다는 점도 업스테이지의 가시권에 들어왔으리라 본다.

또한 시기적으로 퓨리오사AI의 반도체는 이달부터 삼성SDS가 구독형으로 제공하고, 리벨리온 반도체는 SK텔레콤의 데이터센터에서 차세대 AI 추론 서버 설루션으로 실증 단계에 있는 점도 당장 채택이 어려운 이유가 되었을 것이다. 물론 국내 AI 가속기 기업들은 LLM 서빙 이외에도 국가사업이나 공동 연구 등 다방면으로 협력할 수 있는 상황이다.

이번 협력을 시작으로 세레브라스는 국내 LLM 기업과 하이퍼스케일러 기업과 관계를 늘릴 것이며, 검증된 실력자라는 점에서 국내 AI 생태계에 상당한 영향을 미칠 것으로 본다. 국내 AI 기업과 AI 가속기 기업들 역시 세레브라스같은 기업과 눈높이를 맞출 수 있는 경쟁력을 갖춰야 하는 시기다.

IT동아 남시현 기자 (sh@itdonga.com)