일론 머스크가 스페이스XAI의 AI 데이터센터 ‘콜로서스 2’가 연말까지 엔비디아 GB200·GB300 칩 121만 개를 가동할 수 있다고 현지 시각 9월 25일 X에 포스팅했다. 콜로서스 2는 美 테네시주 멤피스에 있는 대형 AI 학습용 데이터센터다.

머스크에 따르면 콜로서스 2는 현재 GB200 11만 개와 GB300 44만 개를 운용하고 있다. 다음 주 GB300 22만 개가 추가로 가동되고 11월에 22만 개가 더해진다. 그는 “운이 좋다면 12월 말까지 GB300 22만 개를 또 추가할 수 있다”고 말했다. 계획대로 진행되면 GB300만 110만 개에 이른다.

증설 단위가 11만 개인 이유에 대해 머스크는 “중앙 스위치에 연결할 수 있는 광케이블 수” 때문이라고 설명했다. 칩 수를 늘릴 때 네트워크 장비 용량이 제약이 된다는 뜻이다. GB300 NVL72는 블랙웰 울트라 GPU 72개를 수냉식 랙 하나에 연결한 엔비디아 시스템으로, 랙 하나가 최대 142kW의 전력을 사용한다.

전력 확보 과정에서는 논란도 이어졌다. 로이터는 7월 콜로서스 2에 연방 대기 허가 없이 가스터빈 59대가 설치됐다고 보도했고, 환경 단체들이 문제를 제기했다. 스페이스XAI는 임시 발전 설비를 1.2GW 규모의 상설 발전소로 교체하고 있다고 밝혔다.

콜로서스는 외부 기업에 컴퓨팅을 판매하는 사업으로도 확장되고 있다. 벤징가에 따르면 구글은 엔비디아 GPU 약 11만 개를 쓰는 다년 계약을 맺었고, 앤트로픽은 콜로서스 1에서 300MW 이상을 사용한다.

자세한 내용은 벤징가에서 확인할 수 있다.

이미지 출처: 엔비디아