오픈AI가 자체 설계한 첫 추론 칩 할라피뇨의 성능 측정 결과를 현지 시각 8월 25일 공개했다. 반도체 학회 핫칩스 2026 발표에 맞춘 자료로, 추론은 학습을 마친 모델이 실제 요청을 받아 답을 만들어 내는 과정을 말한다.

측정에는 반도체 분석 업체 세미애널리시스가 공개한 벤치마크 인퍼런스X가 쓰였다. 벤치마크는 같은 조건에서 여러 제품의 성능을 견주는 표준 시험이다. 시험 모델은 오픈AI의 오픈웨이트 모델 GPT-OSS 120B와 딥시크 R1 670B, 중국 문샷 AI의 키미 K2.5 1T 세 가지였다. 오픈웨이트는 모델 내부 수치인 가중치를 공개해 누구나 내려받아 쓸 수 있게 한 방식이다.

세 모델 모두에서 할라피뇨는 비교 시스템보다 와트당 처리량이 1.5~1.9배 많았고, 요청을 받아 답을 마칠 때까지 걸린 시간은 1.7~3.6배 짧았다. 주고받는 횟수가 많은 대화형 작업에서는 2.1~4.1배 높은 성능을 기록했다. 비교 대상은 엔비디아 GB200과 GB300이었는데, 할라피뇨의 정격 소비전력은 700와트로 GB200의 1,200와트, GB300의 1,400와트보다 낮다. 시험 중 실제 소비전력은 550와트 이하에 머물렀다.

오픈AI는 칩 한 개당 성능보다 전력 한 단위당 성능이 더 쓸모 있는 기준이라고 설명했다. 데이터센터가 끌어 쓸 수 있는 전력이 한정돼 있어, 같은 전력으로 얼마나 많은 요청을 처리하느냐가 매출과 직결된다.

다만 세미애널리시스는 수치가 전부 오픈AI에서 받은 것이며, 자사는 실험실에서 인퍼런스X 실행 장면을 직접 확인했을 뿐 전체 시험을 다시 수행하지는 않았다고 밝혔다. 블랙웰과의 비교도 온전하지 않다고 덧붙였다. 할라피뇨는 차세대 고대역폭 메모리 HBM4를 쓰는데, 같은 HBM4를 쓰는 엔비디아 루빈과 견주는 편이 맞다는 것이다. 시험이 단일 대화 조건에서만 이뤄져 여러 차례 주고받는 에이전트 작업 결과는 아직 없다.

할라피뇨는 브로드컴과 함께 설계했고 2025년 11월 테이프아웃을 마쳤다. 테이프아웃은 설계를 확정해 제조 공정으로 넘기는 단계다. 설계 착수부터 이 단계까지 9개월이 소요됐다. 오픈AI는 올해 말부터 자사 인프라에 할라피뇨를 배치하기 시작하며 2세대는 개발 중이라고 밝혔고, 엔비디아를 비롯한 협력사 가속기는 학습과 추론 양쪽에서 계속 폭넓게 쓰겠다고 덧붙였다.

자세한 내용은 오픈AI에서 확인할 수 있다.

이미지 출처: 오픈AI