Nvidia 推出开源模型:企业级 Nemotron 与轻量 Bolt,支持 PC 本地运行 AI 代理

内容管家 AI领域评论13字数 679阅读2分15秒阅读模式
Nvidia 推出开源模型:企业级 Nemotron 与轻量 Bolt,支持 PC 本地运行 AI 代理

NVIDIA 推出全新开源模型,专为持续在线代理和边缘计算场景设计

当地时间周四,NVIDIA 发布了两款全新开源权重模型,分别面向企业级代理应用和本地消费级 AI PC。

核心变化:两款新模型发布

Nemotron 3.5 Super VL(企业级代理模型)

Super VL 是一款拥有 1200 亿参数的大型多模态模型,专为企业代理场景优化。虽然参数量少于此前的 Nemotron 3 Ultra,但 NVIDIA 宣称其在指令遵循和工具调用任务上能达到相近精度。该模型已完成针对特定代理任务的后训练,覆盖文档理解、财务核算、科学实验、医疗理赔和安全攻击弹性等领域。NVIDIA 声称,其任务完成速度优于 Anthropic 和 OpenAI 的竞品(Opus 5、GPT 6.1 Sol、Luna、Astra)。

首批落地的企业客户包括 Skydance、EY、Ramp、Crowdstrike、Perplexity 和 Salesforce。

Bolt 系列(本地轻量模型)

NVIDIA 同时发布了两款轻量级 Bolt 模型,旨在本地运行于搭载 RTX Spark 芯片的新一代 AI PC,以及 DGX Spark 工作站。

  • Nemotron 3.5 Bolt 74B-A9B 24GB:740 亿参数,在速度和推理能力间取得平衡,支持多步推理、工具调用和网页浏览等本地代理任务。
  • Bolt E4B:参数规模最小,专为对话代理场景设计。

上市节奏方面,Super VL 和 Bolt 74B-A9B 已开放使用,Bolt E4B 将于本月晚些时候推出。

影响与建议

企业用户:对于希望在自有数据中心运行代理的组织,Super VL 提供了一条"无需在能力和可部署性之间妥协"的路径——可基于自有数据后训练、自主部署基础设施并拥有成果。建议有私有化部署需求的企业评估该模型与现有工作流的集成成本。

消费级市场:隐私敏感型用户可能不愿将家庭、健康、财务等敏感信息托付给云端 AI 助手。Bolt 模型通过本地运行的方式试图打开这一缺口,配合微软、戴尔等合作伙伴的 AI PC 产品线共同推进。建议关注 RTX Spark 芯片的实际性能表现和 OEM 厂商的产品上市节奏。

竞争格局:随着 Anthropic、OpenAI 等前沿实验室也在寻求 NVIDIA 以外的芯片方案(AWS Trainium、Cerebras 或自研芯片),NVIDIA 正加大对"企业自托管开源模型"趋势的投入,以巩固其基础设施层面的竞争优势。

延伸阅读

 
内容管家

发表评论