AI 인프라 기업 런웨어가 모듈형 데이터센터 소닉 인퍼런스 포드를 공개했다. 현지 시각 8월 4일 발표로, 컨테이너처럼 떼었다 붙였다 할 수 있는 한 덩어리로 설계됐고, 대형 클라우드 기업이 짓는 초대형 데이터센터와 나란히 쓰는 방식이다.
런웨어는 서버를 직접 빌리지 않고 쓰는 다른 추론 서비스나 GPU 대여 클라우드보다 높은 품질과 낮은 비용으로 추론을 제공할 수 있다고 주장한다. 추론은 이미 학습된 AI 모델이 실제 요청을 받아 결과를 내놓는 과정을 말한다. 플라비우 라둘레스쿠 공동창업자 겸 최고경영자는 고정형 데이터센터를 확장하는 대신 포드를 새로 만드는 방식으로 용량을 빠르게 늘릴 수 있다고 설명했다.
포드는 냉각수를 밖으로 흘려보내지 않고 내부에서 돌려 쓰는 방식이라 물을 따로 소비하지 않으며, 며칠이면 구축할 수 있다. 일반적인 데이터센터는 수개월에서 수년까지 걸린다. 런웨어는 현재 미국과 유럽, 아시아태평양에 포드 10개를 배치 중이고, 포드를 가동할 수 있는 부지 160곳을 확보했다. 힉스필드 AI와 윅스에 추론을 제공하고 있으며, 지난해 12월 5,000만 달러(약 715억 원) 규모 시리즈 A를 발표했다.
라둘레스쿠는 “우리는 더 빠른 추론을 위해 최종 이용자 가까이에 배치된 분산 컴퓨트가 장기적으로 이길 것이라고 믿는다.” 그는 이어 “모든 포드가 하나의 네트워크 일부로 돌아가기 때문에 요청은 용량이 있는 곳, 이용자에게 더 가까운 곳으로 가고, 포드 하나가 오프라인이 되면 트래픽이 다른 포드로 옮겨간다”고 말했다.
라둘레스쿠는 하드웨어 사업의 진입 장벽이 높다며, 회로기판 설계에서 실수 하나가 나오면 재설계와 시뮬레이션, 제작, 테스트, 납품을 거치며 수개월이 걸린다고 말했다.
오픈AI는 오하이오 데이터센터 건설을 포함한 5,000억 달러 규모 계약 체결에 근접했다는 보도가 있었다. 데이터센터가 들어선 지역에서는 공공요금 상승 보고도 이어지고 있다. 런웨어는 재생에너지 기반 운영을 지향하지만 아직 그 단계에 이르지는 못했다.
자세한 내용은 테크크런치에서 확인할 수 있다.
이미지 출처: 런웨어
AI Matters 뉴스레터 구독하기
