人形机器人正在加速走向工厂与家庭，而将控制权交给生成式 AI 模型也带来了一个根本性难题：与传统算法不同，这类架构的行为难以预测——你如何确保一台崭新的机器人是安全的？
卡内基·梅隆大学 Safe AI 实验室主任丁赵博士（Dr. Ding Zhao）几乎整个职业生涯都在研究这个问题。如今，他与资深创业高管 Kyle Wong、机器学习工程师 Simo Rachidi 共同创立了 Safeworld，目标正是解决这一挑战。
核心变化：机器人安全评估进入"第三方验证"时代
Safeworld 于今日正式脱离隐身模式，宣布完成 1200 万美元种子轮融资，由 Shine Capital 与 a16z Speedrun 联合领投，Box Group、卡内基·梅隆大学捐赠基金、Innovation Endeavors 及 SV Angel 跟投。
丁赵认为，当前谈论的安全挑战包含两个层面：一是真正先进的生成式 AI 概率评估——如何为概率系统承保风险；二是信任问题。两者缺一，机器人就无法真正落地部署。
a16z Speedrun 合伙人 Jonathan Lai 向 TechCrunch 表示："制定行业安全标准的时机就是现在，趁机器人还在设计阶段。等机器人进入家庭、撞到孩子、发生安全事故，那就太晚了。"
技术方案：在仿真环境中用"数字人类"压力测试
Safeworld 的核心技术，是在搭载逼真人类模型的仿真环境中评估机器人控制系统。这与特斯拉、Wayve 等自动驾驶公司面临的挑战相似——需要确保车辆能恰当应对道路上的各种突发状况。丁赵认为，机器人的测试难度更高，因为它们工作在非结构化环境中，且每个部署场所的安全标准各不相同。
以工厂盲区为例，Kyle Wong 解释道："这个特定工厂的盲区转弯处，机器人需要保持什么速度或制动距离，才能确保不会撞到人类？如果人类正在搬运箱子，机器人能否检测到？" 为回答这个问题，Safeworld 会在 Genesis 或 MuJoCo 等仿真引擎中构建该盲区的数字孪生，插入待评估机器人的真实软件模型，然后运行成千上万次人类模型与机器人相遇的场景。这远比听起来更难——因为人的行为本质上是不可预测的。"绊倒和跌倒是我们大量仿真的场景之一，"Wong 说，"否则你就得让真人反复去绊倒机器人，这显然不现实。"
行业意义与落地前景
Safeworld 与机器人制造商内部使用的工具存在一定相似性，但创始人相信，除了专业能力本身，机器人厂商还需要第三方来验证他们的工作——尤其是在竞争对手之间共享安全案例信息。
丁赵指出："很多人低估了解决这些边缘 cases 的难度。我们担心的不是在演示环境中真空里的机器人，而是在大规模部署时，面对可能从未操作过机器人的普通人。" Gritt Robotics CTO Vishal Dugar 正在为工业光伏电站的机器人开发 AI"大脑"，其机器人与人类工人并肩工作。他的公司正与 Safeworld 合作开发安全仿真方案。Dugar 表示："我们大多数系统很难通过数学公式来形式化地证明安全，必须通过经验来验证。" 人类工人的外观和姿态多种多样——站立、蹲下、跪地、绊倒、奔跑——加上衣着、体型、肤色等差异，机器人必须对所有这些行为和外观变化作出正确响应，这进一步凸显了仿真测试的必要性。
Safeworld 目前仍处于早期阶段，产品形态尚未完全确定——是面向外部用户的平台，还是基于服务的模式？但团队相信他们选对了方向。"我们很可能成为这个领域第一家盈利的公司，"丁赵说，"因为任何想要部署机器人的人，都必须付钱给我们来处理安全问题。"
评论