AI末日论何时该认真对待？——从马斯克诉OpenAI案看AI安全的核心矛盾
背景
在埃隆·马斯克起诉 OpenAI 的庭审中，一个关键议题浮出水面：人工智能的末日风险究竟值不值得认真对待？
马斯克的律师团队主张 OpenAI 最初是作为专注于 AI 安全的慈善机构成立的，却在盈利诱惑下偏离了使命。他们引用了创始人早年的邮件和声明——这些文件强调了需要建立一个能制衡 Google DeepMind 的公共利益导向组织。
核心证人：AI安全研究者的警告
庭审唯一的技术专家证人是加州大学伯克利分校计算机科学教授彼得·罗素（Peter Russell），他研究 AI 数十年，其任务是为陪审团和法官提供 AI 技术背景知识，并证明这项技术已危险到令人担忧的程度。
罗素曾于 2023 年 3 月联署了一封公开信，呼吁 AI 研究暂停六个月。颇具讽刺意味的是，马斯克也在同一封信上签了名——彼时他正筹备自己的人工智能实验室 xAI。
罗素向陪审团列举了 AI 发展的多重风险：网络安全威胁、对齐问题（misalignment）、以及打造通用人工智能（AGI）过程中的"赢家通吃"特性。他指出，追求 AGI 与安全之间存在根本张力。
然而，罗素关于无约束 AI 存在性威胁的更深层担忧，最终未能完整呈堂——OpenAI 律师提出异议后，法官限制了罗素的证词范围。作为长期批评者，罗素一直反对全球前沿实验室竞相率先达成 AGI 的军备竞赛模式，并主张各国zf 应对该领域实施更严格的监督&管理。
OpenAI 律师在交叉询问中试图证明：罗素并未直接评估该组织的公司架构或其具体安全政策。
核心矛盾：一边警告一边狂奔
从外部视角来看，一个清晰的事实是：OpenAI 创始团队在成立后发现，若要成功，组织需要远超预期的算力投入，而这些资金只能来自营利性投资者。
创始团队担心 AGI 落入单一组织之手，因此寻求资本——然而这笔资本最终撕裂了团队，催生了我们今天所知的 AI 军备竞赛，也将我们带到了这起诉讼。
这种张力同样在上演：参议员伯尼·桑德斯推动立法，要求暂停数据中心建设，其依据正是马斯克、萨姆·阿尔特曼、杰弗里·辛顿等人表达的 AI 担忧。数据创新中心贸易组织工作人员霍登·奥马尔对此提出异议——当这些亿万富翁的担忧被援引时，其希望被忽视了。他告诉 TechCrunch："很难理解为什么公众应该忽视科技亿万富翁说的一切，除了当他们的话被招募来填补一个不稳固论点的空白时。"
影响与建议
无论庭审结果如何，该案的核心张力已无法回避：
- 安全 vs 速度：几乎所有 OpenAI 创始人都曾严厉警告 AI 风险，同时也极力强调 AI 的益处，并以前所未有的速度推进 AI 研发——同时暗中筹划自己控制的人工智能营利企业。
- 监督&管理呼声：国家层面的 AI 监督&管理讨论正在升温，政策制定者面临如何平衡企业诉求与公共安全的难题。
- 行业自律的局限：前沿实验室既是运动员又是裁判，自律机制的有效性存疑。
评论