当 AI 测试 AI:物理世界的安全守门人

内容管家 AI领域评论8字数 1581阅读5分16秒阅读模式
当 AI 测试 AI:物理世界的安全守门人

OpenAI 与 Hugging Face 的那场"事故"再次提醒业界:AI 智能体一旦走出虚拟环境,后果难以预料。

"想象一下,如果这类事件发生在现实世界会怎样," Laplace Intelligence 联合创始人兼 CEO 孙浩维(Howie Sun)在接受 TechCrunch 采访时表示,"AI 智能体正在从计算机走向真实世界,我们显然不希望物理 AI 在现实世界中失灵。" 总部位于密歇根州安娜堡的 Laplace,正在为机器人和物理 AI 构建自动化红队测试——即通过主动制造故障来对系统进行压力测试。公司押注的逻辑很明确:确保物理 AI 安全的唯一方式,就是用 AI 来测试它。

"我们的目标是帮助企业在部署前发现并修复问题,并逐步构建一个可供客户、保险公司和监督&管理机构信赖的共享信任基础,"孙浩维表示。

Laplace 目前是 TechCrunch Disrupt 大会 Startup Battlefield 竞赛中 20 支参赛队伍之一,将于 10 月 13 日周一下午登台路演。

学术基因:从 Nature 封面到商业化产品

孙浩维与联合创始人兼首席科学家刘亨利(Henry Liu)于一年前从密歇根大学孵化出 Laplace。在此之前,孙浩维已在学术界深耕八年,专注于在仿真环境中挑战自动驾驶 AI。2023 年,两人(当时刘亨利仍是他的博士导师)联合发表了相关研究论文,登上顶级科学期刊《Nature》封面——这也引来了多家自动驾驶公司的合作接洽。

"我意识到,我想把这项研究真正做成一个能服务于现实世界的产品,"孙浩维说道。

公司名称"Laplace"源自法国学者皮埃尔-西蒙·拉普拉斯 1814 年提出的思想实验"拉普拉斯恶魔"——假设知晓宇宙万物的精确状态,便能完美预测未来。"我们本质上是用仿真来预测真实世界的未来,"孙浩维解释道。

核心产品:AI 驱动的仿真测试平台

Laplace 的技术核心是一个从真实世界重建的高保真仿真环境,搭配一个持续探测系统弱点与故障点的 AI 智能体。其目标是确保任何物理 AI——无论是机器人、自动驾驶汽车还是智慧城市解决方案——在投入真实世界部署前,先在仿真中完成充分验证。

该仿真环境基于英伟达 AI 世界仿真平台 Cosmos 的后训练版本,并与真实世界数据对齐,使 Laplace 能够重建亚利桑那州高速公路或巴黎人行横道等各类场景。仿真内容通过融合多种真实世界信息生成:一张 Google 街景图像便可以作为参考,生成整条街道。不同于随机生成,仿真器结合真实地图数据,重建出按真实比例还原的环境。

开发者还可以用语言指令实时修改场景设置,例如"加入下午时段的交通流量"。孙浩维透露,Laplace 从 TomTom 等导航提供商处获取实时交通与拥堵数据。

在 Laplace 的仿真中,不仅环境被建模,其他行为主体的反应同样被模拟。演示中,孙浩维指挥测试车辆闯入对向车道——本应被撞上的那辆车主动避让,以避免碰撞。"这是一个真正可交互的仿真环境,所有参与者都在对彼此做出反应……更像是拥有交互参与者的世界模型。" 真正的差异化壁垒在于 Laplace 自主研发的 AI 智能体,它们能自动设计 Corner Case(棘手的罕见场景),将人工从测试循环中进一步剥离。"它们可以从新闻、交通事故报告等各种信息来源中提取素材,主动挑战自动驾驶汽车和其他物理 AI 智能体,"孙浩维介绍道。

商业落地:自动驾驶先行,通用机器人蓄力

当前,自动驾驶开发商主要依靠两种方式训练 AI 处理边缘场景:用已有行车记录构建仿真,或由人工设计新场景。许多自动驾驶公司——例如自动驾驶卡车公司 Waabi——已开始引入 AI 生成边缘场景。但孙浩维认为,随着通用机器人进入真实世界,这项技术的需求才会真正爆发。

"通用机器人领域的数据更稀缺,没有人真正知道现实世界中会出现什么样的边缘场景。" 尽管两位创始人均出身学术界,缺乏硅谷科技公司的光鲜履历,Laplace 已实现营收并略有盈利。收入主要来自自动驾驶场景,客户包括日本卡车制造商五十铃和总部位于德克萨斯州的自动驾驶卡车公司 Bot Auto。

英伟达也是 Laplace 的客户。孙浩维透露,三家公司正与 T-Mobile 合作,为加州圣何塞市推进一个智慧城市试点项目,提供高级交通运营能力。Laplace 还与正在开发仓储人形机器人的合作伙伴处于早期接洽阶段。

目前多数客户合同为项目制,公司正努力向持续性收入模式转型。短期目标是通过 Disrupt 大赛获得资金支持并扩大规模,以应对竞争对手。

主要竞争对手之一是 Applied Intuition——一家后期明星创业公司,迄今已融资 12 亿美元,估值达 150 亿美元。五十铃同时也是 Applied Intuition 的客户。

孙浩维对此并不畏惧。他相信,用 AI 测试 AI 的核心方法论代表"一种全新的范式,彻底改变了物理 AI 的测试方式",将传统测试转变为"动态可交互的测试过程"。

"这将成为我们最深的护城河。"

延伸阅读

 
内容管家

发表评论