AMD의 데이터센터 사업을 총괄하고 있는 포레스트 노로드가 넥스트플랫폼과 인터뷰에서 AI 학습을 위한 GPU 수요가 여전히 놀라울 정도라며, 현재 일부 기업에서 고려하고 있는 AI 훈련 클러스터의 규모가 정말 놀랍다고 밝혔다는군요.

그 와중에 터무니 없어 보일 정도로 거대한 GPU 클러스터 구축을 문의하는 경우도 있다고 해 인터뷰 진행자가 누군가 120만개 GPU 클러스터 구축을 요청한 적이 있냐는 농당성 질문에 그렇다고 답했다는군요.

우와! 120만개 GPU를 주문해 클러스터를 구축할 정도의 주문이라면 여기에 투자되는 금액이 도대체 얼마인가 싶을 정도네요.

이건 현존 최고 수준의 슈퍼컴이라고 알려진 프론티어에 적용된 GPU가 3만7888개를 고려하면 상상이 안될 정도의 수준의 요청이내요.

현재 기술로 이런 규모의 GPU 클러스터를 안정적으로 구현하고 가동한다는게 사실상 불가능한 수준일텐데 이런 요청을 하는 곳도 있었나 보내요. 그래서 터무니 없어 보일 정도라고 한 거 같네요.

AI 붐이 이런 상황까지 만드나 봅니다.