OpenAI 的 Decisions API 终于不再只是开发者日上的演示，而是面向所有客户正式开放。这个被称为「决策模型」的新品类，正在把「快速、廉价的智能」变成一条独立的赛道——TypeSafe 这家由前沿实验室前研究员创办的初创公司，靠这类模型估值一度达到 76 亿美元。
TypeSafe 的 Jev 模型开创了一类被称为「超级分类器」的深度学习模型：给定一组选项，它们可以快速做出选择，并同时给出这次决策的置信度评分。
开发者很快发现，这类决策模型（也常被称为 System One 模型）能够在不少工作流里替代 LLM——跑得更快，成本还低一个数量级。
OpenAI API 产品负责人 Nikunj Handa 向 TechCrunch 提到，他的同事第一次看到 Jev 时说「哇，我们有大概一百万个用例可以用它」。他的团队随即冲刺上线自己的版本：没有从零训练专门的决策模型，而是拿 ChatGPT Luna 做了重新配置，用于加快推理、降低成本。
核心变化：延迟从秒级降到百毫秒级
「Decisions API 最大的突破在于速度，把原本一到三秒的响应压缩到了 100、120、180 毫秒。」Handa 说，「未来我们可能会做一些专门训练，让模型在这方面表现更好。但眼下，就是原汁原味的 Luna 把活干好了。」 该 API 在公司 9 月 29 日的开发者日上发布，并于周四对全部客户开放。OpenAI 在公开版本中新增了语音和视觉模态，并通过按地理位置分配推理资源，努力降低全球各地区的延迟。
在 Box、Datadog、Ramp、Speak 等客户的初步试用中，工程师用这个 API 替换掉原有的 LLM，以换取更高吞吐。AI 语言辅导产品 Speak 的 CTO Andrew Hsu 表示，Decisions API 让公司把动作之间的间隔从 1.4 秒压缩到 0.13 秒。OpenAI 自己也用该产品提升了 Dots 语音助手的响应速度。
基准与排名：榜单分歧明显
目前还很难说清楚一个「好的决策模型」究竟该怎么定义，除了「在你自己的场景里能用」——在智能水平、成本、校准度、速度之间的最优取舍，显然随工作负载而变。TypeSafe CEO Diogo Almeida 不信任基准测试，主张人们在自己的业务里实测；但就在上周发布最新 Jev 模型的同时，TypeSafe 也发布了自己的排行榜。
公共基准方面，AIM System One 指数和 Artificial Analysis 决策指数更偏向 Liquid 上周发布的 D1 Ultra 以及 Base Lab 的 Elephant-1。最新 Jev 模型在这两个指数上分别排第七和第三，仍具竞争力；OpenAI 的决策模型则分列第八和第十四。不过就目前的查询量而言，TypeSafe 的产品在 OpenRouter 上是查询量最高的。
最有趣的 Jev 基准是 JevMan：让决策模型玩「吃豆人」。最新 Jev 模型在该榜单上排名第一。开发该基准的 Opper AI 首席增长官 Felix Wunderlich 称这款经典游戏「是个有意思的测试，因为它包含了持续不断的高风险快速决策流。模型必须在每个岔路口于几百毫秒内决定往哪走」。
影响与建议
多模态仍是 OpenAI 的潜在优势。 在图像分类等任务上，「Luna 非常强大，校准表现也一直在变好」，Handa 说。他补充道，OpenAI 客户希望 Decisions API 在「把图片作为输出」这件事上更灵活。
更快的响应会解锁新用法。 Handa 认为速度还有进一步提升空间：「我们能不能压到 60 毫秒左右？那样你就可以想象，每次视频的每一帧都调一次 API。」 选型建议。 如果你的场景是高频、短延迟、选项明确的自动决策（如路由、分类、工具选择），决策模型值得实测；但不要直接照搬公开榜单——校准度和吞吐在不同负载下差异很大，务必用自己的真实流量做一轮 A/B，并同时核算单位调用成本与端到端延迟。
更广的预期。 随着这类产品越来越快、越来越便宜，它们大概率会印证 Jev 名字的由来——那位经济学家解释过，资源使用效率提升反而会让该资源变得更加普及。用 Handa 的话说，将会浮现出一大套「藏在眼皮底下的疯狂用例」，直到决策模型把它们揭示出来。
评论