英伟达的主导地位尚未终结，但挑战者正从四面八方涌现。
由图灵奖得主 Yann LeCun 背书的法国 AI 创业公司 ZML，发布了一款推理性能软件，宣称可让多种开源大语言模型在各类芯片上运行——包括英伟达、AMD、Google TPU、Apple Metal 和 Intel Arc。
打破芯片壁垒：LLMD 推理服务器野望
ZML 创始人 Steeve Morin 告诉 TechCrunch，基于新推出的 LLM 推理服务器 ZML/LLMD，公司目标打破既有生态壁垒，让不同芯片都能以最大可用速度运行 AI 推理任务——有时甚至更快。
随着 AI 深度嵌入工作与日常生活，推理优化（即 Prompt 处理）的重要性已超越模型训练。但现实中，软件与架构的割裂导致供应商锁定问题长期存在，Morin 表示。
成本压力下的新选择
实现跨芯片峰值性能既是技术壮举，在 AI 成本焦虑日益加剧的背景下，也可能成为市场颠覆者。ZML 希望为企业级用户和云服务商提供自由混用芯片的选项，部分芯片可能在成本或能耗上更具优势。"我们的理念是让用户重新掌握构建系统的权力，获得真正的效率提升，从而推动 AI 广泛落地。" Morin 如是说。
这一软件能力也为新兴 AI 芯片厂商提供了助力，Morin 特别提及了多家欧洲厂商：Axelera、Fractile、Kalray、OLIX、Q.ANT、SiPearl、SpiNNcloud、VSORA。他关注的不仅是地域标签，更在于 ZML 能与这些厂商合作"在全球范围内尚未有人做过的事"。
不过 Morin 对英伟达并非看空——部分原因在于其现有供应链优势。他透露 ZML 与这家 AI 芯片巨头保持着良好关系，后者也在积极布局推理赛道。
竞争格局：Inference 金矿争夺战
Inference 领域投资热度空前，被业界称为"推理淘金热"（inference gold rush）。ZML 面临的竞争者包括：
- Baseten：最新估值 1.30 亿美元
- Inferact：由开源项目 vLLM 核心成员创建
- RadixArk：SGLang 背后的商业公司，获 1 亿美元种子轮融资
vLLM 和 SGLang 与 ZML/LLMD 存在部分竞争，但 Morin 的野心更广。他表示："我们已经进入与芯片厂商联合设计的阶段。" ZML 仅有 20 人团队，Morin 认为小团队正是公司快速迭代的优势，巴黎总部的更多发布也在计划中。
融资与商业模式
小规模团队的融资力度却不容小觑。Morin 曾任 Zenly 工程副总裁（Snapchat 于 2017 年以九位数收购该公司），凭借这一履历，他成功完成 2000 万美元融资，投资方包括 20VC、commit、AALVC、Drysdale Ventures、Kima Ventures（Xavier Niel 旗下）、Kindred Capital、LocalGlobe 和 Puzzle Ventures。
与 ZML 2024 年开源的推理 ML 框架（2025 年 3 月已更新至 v2）不同，ZML/LLMD 并非开源产品，目前以免费形态推出，旨在积累使用数据。Morin 表示："我更希望先衡量实际价值，再在最能产生效果的地方变现，而不是一开始就贪多求全。" ZML/LLMD 何时转为付费产品、采用率如何，尚待观察。但其投资人名单印证了业内同行的关注度：Docker 创始人 Solomon Hykes、Hugging Face 联合创始人 Clément Delangue 与 Julien Chaumond，以及 Yann LeCun（现任职于 AMI Labs）。
"ZML 只可能在巴黎做，" Morin 如是说。这也为欧洲本土 AI 创业生态的建设提供了一个注脚。
评论