
OpenAI 首款自研推理芯片曝光:Jalapeño
背景:摆脱对 Nvidia 的依赖
OpenAI 于周三发布了其首款定制推理处理器 Jalapeño,该芯片由 Broadcom 合作设计并制造。值得关注的是,OpenAI 自身的 AI 模型也参与了芯片开发流程。
这一合作早在十月便已官宣,但 OpenAI 自研芯片的传闻早有流传,其核心动机是降低对 Nvidia GPU 的依赖。Google 的 TPU 和 Amazon 的 Trainium 此前均已推出自研芯片,服务于同一目标——即所谓的"AI 加速器",专为加速机器学习工作负载而生。
OpenAI 总裁 Greg Brockman 在合作宣布后不久的内部播客中阐释了公司的芯片思路:
"我们对工作负载有深刻理解。我们一直在寻找那些未被充分满足的特定工作负载,然后思考如何构建能够加速这些任务的方案。"
核心变化:专为推理而生的 Jalapeño
Jalapeño 是 OpenAI 首款完全针对推理(inference)场景设计的芯片——即运行预训练 AI 模型来响应用户指令的过程。
官方强调,该芯片在运行实时编程模型时展现出极低的运行成本。芯片目前仍在测试阶段,但早期数据显示其每瓦性能显著优于现有顶尖方案。
可以预期,GPT-5 等大规模预训练任务仍将主要依赖 Nvidia 硬件,但即便推理成本的有限改善,也将对公司财务状况产生可观的正向影响。
影响与建议:全栈优化成趋势
优化推理系统,正在成为 AI 经济学的关键变量。OpenAI 已在多个层面推进:上层有 Codex 等 Agent 产品及其底层模型,下层则扩展至自建数据中心。如今更进一步切入专用芯片,表明其纵向整合已延伸至最底层硬件。
公司在公告中明确阐释了这一思路:
"OpenAI 不只是在开发前沿模型或基于模型构建产品,而是在为这些模型设计底层基础设施:芯片架构、内核、内存系统、网络、调度、部署系统,以及产品体验。由于 OpenAI 贯穿整个技术栈,每一层都可以围绕同一目标进行优化:让模型更快、更稳定、更普惠。"
这一表态意味着,AI 芯片竞争已从单纯追求算力,转向围绕特定工作负载的全栈协同优化阶段。


评论