AI 测试 AI:物理世界智能体的安全守门人

内容管家 AI领域评论9字数 1570阅读5分14秒阅读模式
AI 测试 AI:物理世界智能体的安全守门人

AI测试AI:物理世界智能体的安全守门人

从 Nature 封面论文到商业产品

创始人 Howie Sun 和联合创始人兼首席科学家 Henry Liu 一年前从密歇根大学走出,创办了 Laplace 公司。Sun 在学术界的八年时间,全部投入在如何用仿真手段挑战自动驾驶 AI 这一课题上。2023 年,两人联合发表的相关论文登上了顶级科学期刊 Nature 的封面,随即收到了来自多家自动驾驶公司的合作咨询。

"我意识到,我想把这项研究真正做成能解决实际问题的产品," Sun 接受 TechCrunch 采访时表示。公司名称"Laplace"取自 1814 年法国学者拉普拉斯提出的"拉普拉斯妖"思想实验——若知晓宇宙万物的精确状态,便能完美预测未来。"我们本质上是在用仿真来预测真实世界的未来," Sun 说。

高保真仿真环境:AI 生成"真实世界"

Laplace 的核心技术是一套从真实世界重建的高保真仿真环境,结合持续探测系统弱点与故障点的 AI 智能体。仿真平台基于 Nvidia AI 世界模拟平台 Cosmos 的后训练版本构建,借助真实世界数据锚定,可以重建从亚利桑那州高速公路到巴黎人行横道的任意场景。仿真画面融合了多种真实世界信息源,例如参考 Google 街景图像生成整条街道,且系统并非生成随机场景,而是结合真实地图数据还原等比例环境。开发者还可用语言指令实时修改场景设定,例如"加入下午高峰车流"——系统会从 TomTom 等导航提供商获取实时交通与拥堵数据。

在 Laplace 的仿真环境中,不仅环境本身被模拟,所有参与者的行为同样被纳入仿真。演示过程中,Sun 曾指示测试车辆突然变道驶入对向车流——按照某些生成式世界模型的常见做法,被撞车辆本应直接"穿透",但在这里它选择了主动避让。

"这是一个真正可交互的仿真环境," Sun 表示,"每个参与者都在对其他参与者做出实时反应……这更像是一个拥有交互参与者的世界模型。"

用 AI 生成极端场景,把人类专家解放出来

如果说仿真环境是产品的基础层面,Laplace 真正的核心竞争力在于其自动设计极端场景(Corner Case)的 AI 智能体——即那些罕见但足以让 AI 系统出错的关键场景——并逐步将人类专家从设计流程中移除。

"这些 AI 智能体能够从新闻报道、交通事故警方报告等各类信息中主动生成挑战素材,持续对抗自动驾驶车辆及其他物理 AI 智能体," Sun 介绍道。

当前主流自动驾驶开发商主要依靠两种方式训练 AI 应对极端场景:要么将真实路测影像转为仿真数据,要么依赖人工提出新想法并手动设计场景。虽然包括自动驾驶卡车公司 Waabi 在内的多家 AV 企业已开始引入 AI 生成训练场景,但 Sun 认为,这类技术的真正需求将在通用型机器人真正走进现实世界时爆发式显现。

"通用机器人领域的极端场景数据极度匮乏," Sun 指出,"没有人确切知道现实世界中的 Corner Case 会是什么样子。"

已获收入,与 Applied Intuition 正面竞争

尽管两位创始人均无硅谷科技大厂背景,Laplace 目前已实现收入并有少量盈利。客户主要包括美国得克萨斯州自动驾驶卡车公司 Bot Auto 及一家大型日本汽车制造商。Laplace 还与 Nvidia、T-Mobile 合作,在加州圣何塞开展智慧城市交通运营免费试点项目,并正与仓储人形机器人领域的合作伙伴接洽。

公司目前大多数合同为项目制,正努力向订阅制转型。短期目标是通过参加 TechCrunch Disrupt 大会吸引资金、扩大规模,以应对当前最大竞争对手 Applied Intuition——后者已累计融资 12 亿美元,估值高达 150 亿美元。

Sun 并不畏惧这场竞争。他相信,用 AI 测试 AI 的核心方法论代表"一种全新的范式,将彻底改变物理 AI 的测试方式",将其转变为"动态可交互的测试过程"。

"这将成为我们最深的护城河," 他说。

本文已更新以明确 Laplace 与 Nvidia 的合作关系。

Character.AI 五年折戟:互动聊天机器人平台申请破产

知名 AI 聊天机器人平台 Character.AI 在运营仅五年后于近日提交破产申请,标志着生成式 AI 对话产品商业化道路上面临严峻挑战。

五年历程

Character.AI 是一款以「虚拟角色互动」为核心卖点的聊天机器人平台,允许用户与 AI 驱动的虚拟人物进行个性化对话,曾一度在年轻用户群体中快速扩张。

行业背景

此次破产申请发生前,AI 对话应用赛道竞争日趋激烈,多家同类平台均面临用户留存与盈利模式的持续压力。生成式 AI 产品的算力成本高企,而付费转化率普遍低于预期,成为行业共性问题。

影响与建议

Character.AI 的倒下表明,即便坐拥大量用户,互动聊天机器人平台若无法找到可持续的商业路径,仍难逃出局命运。对于从业者而言,产品差异化、精细化运营与成本控制仍是穿越周期的关键。

延伸阅读

 
内容管家

发表评论