當模型推理成本受到功耗和硬件供應限制，單靠通用 GPU 未必能兼顧速度與效率。OpenAI 以空白設計打造 Jalapeño，屬於專為大型語言模型（Large Language Model，LLM）推理而設的應用專用集成電路（Application-Specific Integrated Circuit，ASIC），並非只針對 OpenAI 自家模型。
Jalapeño 由 OpenAI 與 Broadcom 合作開發，設計工作於 2024 年中開始，約 16 個月後完成製造流片。晶片採用 HBM4 高頻寬記憶體，配合硬件與軟件協同設計，目標是在不同模型及推理工作負載下維持高效能，而非過度優化單一推理環節。
在 OpenAI 實驗室以 InferenceX 測試套件進行的基準測試，聲稱 Jalapeño 的每兆瓦吞吐量優於已測試的 NVIDIA、AMD 及 Google 晶片，亦在效能功耗比上勝過 Blackwell。比較時 Jalapeño 沒有使用 Multi Token Prediction（MTP），其他晶片則採用各自最佳配置，因此結果仍需配合完整測試條件理解。
- 以通用 AI 推理為設計方向，可運行多類模型
- HBM4 令記憶體頻寬接近高階 GPU 的配置
- 核心指標聚焦每兆瓦的 token throughput
- 文章未提供公開下載、安裝或一般用戶使用流程
這類晶片最適合大型模型服務商及資料中心，用於推理量大、電力成本高的工作流。Jalapeño 的價值在於能否把高吞吐量延伸至不同模型和長期運行環境，而不只是單次基準測試中的優勢。