OpenAI自研推理芯片Jalapeño通过第三方基准测试,性能超越英伟达同类AI芯片

SmartHey9月28日消息,OpenAI公司自研推理芯片Jalapeño负责人、OpenAI硬件部门主管Richard Ho在NVIDIA首席科学家计算机博物馆圆桌视频的YouTube评论区回应称,Jalapeño已在独立研究机构SemiAnalysis推出的InferenceX基准测试中,成功验证了对非OpenAI大语言模型的高效推理能力。

Richard Ho指出,Jalapeño在多项关键推理指标上表现优于英伟达近期发布的July Rubin等AI加速芯片。

Jalapeño是OpenAI首款自主设计的专用推理芯片,面向大语言模型(LLM)低延迟、高吞吐推理场景优化。芯片架构由OpenAI主导定义,博通(Broadcom)负责物理实现、高速互连及网络技术集成,Celestica则承担PCB板卡设计、机架级系统集成与整机交付工作。

“Jalapeño”一词源自西班牙语,指一种原产于墨西哥的中小型辣椒,象征该芯片兼具高热效(辣度)与紧凑灵活(体型)的特点。