
OpenAI는 Hot Chips 행사에서 자체 개발한 첫 번째 칩인 Jalapeño가 Nvidia의 GB300을 능가한다는 벤치마크 결과를 발표했다. 브로드컴과 공동 개발한 추론 ASIC인 Jalapeño는 SemiAnalysis의 공개 InferenceX 스위트 테스트에서 Nvidia GB200 및 GB300 랙 시스템 대비 킬로와트당 처리량은 1.5배에서 1.9배, 종단 간 지연 시간은 1.7배에서 3.6배 더 낮게 나타났다. Jalapeño는 700W 부품으로 1,200W 및 1,400W 정격 가속기와 경쟁했으며, OpenAI는 올해 말 자사 데이터센터에 이 칩을 배포할 계획이다.
OpenAI는 각 가속기의 공개된 패키지 TDP를 기준으로 결과를 정규화했지만, 테스트에서 Jalapeño의 측정된 지속 전력은 550W 이하를 유지했다고 밝혔다. 가속기당 총 유틸리티 전력(Jalapeño 1.18kW, GB300 2.55kW)을 사용한 부록 비교에서는 격차가 좁혀졌으며, Jalapeño를 GB300의 다중 토큰 예측과 비교했을 때 최고 효율 우위는 약 1.5배로 줄어들었다.
Jalapeño는 OpenAI가 2026년 하반기에 배포하기로 합의한 Nvidia 시스템의 첫 기가와트를 구동할 예정인 Nvidia Vera Rubin 플랫폼과 비교 테스트되지 않았다. 이 칩은 Nvidia 하드웨어가 여전히 독보적인 워크로드인 모델 훈련은 수행하지 않는다. 또한, 주요 비교 테스트는 Jalapeño의 단일 토큰 예측과 GB300의 동일한 구성을 대상으로 진행되었는데, Nvidia 배포에서는 일반적으로 다중 토큰 예측이 사용된다. OpenAI 연구소에서 OpenAI 엔지니어들과 함께 InferenceX를 실행했다고 밝힌 SemiAnalysis는 이 부품이 "테스트할 수 있었던 모든 Nvidia, AMD, Google 칩을 능가한다"고 설명했다.
블룸버그에 따르면 2세대 칩은 몇 달 내에 테이프아웃될 예정이며, 3세대 칩에 대한 개념 작업이 진행 중이다. 첫 번째 부품은 TSMC 3nm급 공정을 사용하는 것으로 알려져, OpenAI는 당분간 Blackwell 및 Rubin과 동일한 웨이퍼, 메모리, 첨단 패키징 대기열에 머무르게 된다.
출처: Tom's Hardware
원문: https://www.tomshardware.com/tech-industry/semiconductors/openai-says-its-jalapeno-chip-beats-nvidias-gb300-in-first-published-benchmarks







