스페이스XAI(SpaceXAI)가 엔비디아 베라(Vera) CPU를 도입해 AI 에이전트 작업을 처리한다. 일론 머스크가 세운 회사로, AI 모델 그록(Grok)을 운영한다. 현지 시각 8월 24일 미국 팔로알토에서 열린 반도체 학회 핫칩스(Hot Chips)에서 엔비디아가 발표했다.

에이전트형 AI는 모델을 한 번 부르고 끝나지 않는다. 호출과 호출 사이에 도구를 불러 쓰고 코드를 실행하고 데이터를 다듬고 시뮬레이션까지 수행하는데, 이 일은 GPU가 아니라 CPU가 담당한다. 엔비디아는 CPU 쪽이 느리면 값비싼 GPU가 놀게 된다고 설명했다.

베라에는 엔비디아가 직접 설계한 올림푸스(Olympus) 코어 88개가 들어간다. 코어 하나가 여러 작업을 나눠 처리하는 공간 멀티스레딩 기술을 적용했고, LPDDR5X 메모리로 초당 최대 1.2테라바이트를 주고받는다. 엔비디아는 에이전트형 AI와 강화학습 같은 작업에서 x86 CPU보다 최대 1.8배 빨리 끝낸다고 밝혔다. 강화학습은 모델이 시행착오를 거치며 보상이 큰 쪽으로 스스로 다듬어 가는 학습 방법을 말한다.

스페이스XAI는 그록을 구동하는 인프라를 베라 루빈(Vera Rubin) 플랫폼으로 넓혀 기가와트급 용량을 목표로 한다. 지상 데이터센터에서 시작해 궤도 위성까지 같은 아키텍처와 소프트웨어를 쓰겠다는 계획이다.

1세대 스타마인드(Starmind) AI 위성에는 우주 환경에 맞게 손본 베라 루빈 NVL72가 들어간다. 지상용 NVL72는 루빈 GPU 72개와 베라 CPU 36개를 액체냉각 랙 하나에 담는다. 첫 발사는 2027년 4분기로 잡혀 있고, 규모를 크게 늘리는 것은 2028년부터다.

궤도에서는 방사선을 견뎌야 하고, 시설 냉각수 대신 라디에이터로 열을 버려야 하며, 발사 때의 진동도 이겨내야 한다. 고장이 나도 사람이 직접 손볼 수 없다.

엔비디아는 이번 협력으로 베라 CPU와 가속 컴퓨팅, 네트워킹, 소프트웨어를 묶은 자사 플랫폼 전체를 스페이스XAI에 공급하게 됐다고 밝혔다.

자세한 내용은 엔비디아에서 확인할 수 있다.

이미지 출처: 엔비디아