OpenAI, 강력한 Nvidia GB300 주장을 담은 자사 칩 ‘할라페뇨’ 출시

OpenAI는 Broadcom와 함께 개발한 자체 추론 칩인 할라페뇨(Jalapeño)의 첫 벤치마크 결과를 발표했습니다.

회사는 이 칩이 측정 대상인 Nvidia GB200 및 GB300 랙 시스템보다 와트당 더 많은 AI 작업을 수행하고 답변을 더 빠르게 반환한다고 주장합니다.

OpenAI의 새 칩 성능은 어떤가요?

OpenAI는 벤치마크 결과를 공개했습니다. 이 새로운 자체 AI 칩인 할라페뇨는 InferenceX라는 SemiAnalysis의 공개 벤치마크를 통과했으며, 이는 AI 요청 처리 전체 작업을 측정합니다. 테스트는 OpenAI의 자체 GPT-OSS 120B, DeepSeek의 R1 670B, Moonshot AI의 Kimi K2.5 1T에서 수행되었습니다.

OpenAI는 새 칩이 테스트 대상 다른 시스템보다 전력 단위당 1.5배에서 1.9배 더 많은 작업을 수행했다고 밝혔습니다. 또한 요청에 대한 응답 속도는 1.7배에서 3.6배 더 빨랐습니다.

많은 상호작용이 필요한 가장 실용적인 작업의 경우, 격차는 2.1배에서 4.1배 더 나은 성능으로 벌어졌습니다.

OpenAI의 하드웨어 부사장인 Richard Ho는 기자들에게 이 칩이 한 번에 더 많은 작업을 처리하고 더 빠르게 응답하며, 이는 대부분의 칩이 동시에 수행할 수 없는 기능이라고 말했습니다.

비교 대상은 당시 InferenceX 기록상 최고의 결과를 보인 Nvidia의 GB200 및 GB300 슈퍼칩이었습니다. 테스트된 가장 큰 모델인 Kimi K2.5에서 OpenAI는 할라페뇨가 와트당 피크 성능은 약 1.5배, 지연 시간은 3.4배 낮았다고 밝혔습니다.

할라페뇨에는 임대 시장이나 인스턴스 유형이 없으며, 판매 계획도 없습니다. OpenAI가 다른 사람에게 칩을 제공할지 묻자 Ho는 회사가 자체 수요를 충족하기 위한 컴퓨팅 자원이 “부족하다”고 말했습니다.

OpenAI에는 예산과 공간이 있지만, 현재는 예산이나 공간보다는 데이터센터 전력에 제한되어 있어 와트당 토큰 수가 중요한 지표가 됩니다.

ChatGPT와 API 전반에 걸쳐 추론이 지속적으로 이루어지므로, 토큰당 와트 수를 줄이면 OpenAI의 운영 규모에서 빠르게 누적됩니다. 이 칩은 정격 출력이 700와트이지만, 테스트된 워크로드에서는 550와트 이하로 유지되었습니다.

이 칩은 2025년 10월 Broadcom와의 계약에 부합하며, 이 계약에 따라 2029년까지 OpenAI 설계 가속기 10기가와트를 배포할 예정입니다. 크립토폴리탄 파트너십이 처음 구상되었을 때

OpenAI는 향후 자사 칩만 사용할 계획인가요?

Hot Chips에서 Ho는 OpenAI가 128개의 칩으로 구성된 랙에 칩을 배포할 것이며, 전체 파드는 2,048개의 ASIC으로 구성될 것이라고 말했습니다. 128개 칩 배포는 4비트 컴퓨팅 성능 1.7 엑사플롭과 27.5테라바이트의 HBM4를 제공하며, 각 패키지는 초당 15.4테라바이트의 메모리 대역폭을 운반합니다.

OpenAI는 자체 모델을 사용하여 할라페뇨 개발을 가속화했으며, 설계부터 테이프아웃까지 단 9개월이 걸렸습니다. Ho는 두 번째 세대 버전이 “개발 심층 단계”에 있으며, 세 번째 버전도 진행 중이라고 덧붙였습니다.

그러나 벤치마크 주장에도 불구하고 OpenAI는 GPU 플릿을 교체하지 않습니다. Ho는 할라페뇨를 Nvidia와 Cerebras의 “매우 매우 좋은” 파트너들과의 컴퓨팅 전략의 일부로 설명했습니다. 이 칩은 2026년 말까지 소량으로 배포된 후 2027년 동안 확대될 예정입니다.

특히 모든 수치는 OpenAI에서 제공했으며; SemiAnalysis는 InferenceX 실행을 직접 검증했지만 전체 스위트는 실행하지 않았으며 AgentX의 결과도 확인하지 않았습니다.