Musk 诉讼案审视 OpenAI 安全记录

内容管家 AI领域评论23字数 1174阅读3分54秒阅读模式
Musk 诉讼案审视 OpenAI 安全记录

导语

埃隆·马斯克(Elon Musk)起诉 OpenAI 的核心争议,在于这个非营利组织成立时承诺"确保人类从通用人工智能(AGI)中受益",但随着商业化压力加剧,其治理结构是否已偏离初衷。本周 Oakland 联邦法院的一场听证,让这场争议再度成为焦点。

OpenAI 如何从研究机构沦为产品公司

前员工兼董事会成员 Rosie Campbell 在证词中回忆,2021 年她加入公司时,OpenAI 仍以研究为导向,员工普遍讨论 AGI 和安全议题。但到她 2024 年离职时,氛围已完全不同。

"我入职时公司非常聚焦研究,大家经常谈论 AGI 和安全问题。但随着时间推移,它越来越像一个以产品为中心的组织。"

Campbell 透露,她所在的"AGI 筹备团队"(AGI readiness team)被解散,同期另一个安全团队——超级对齐团队(Super Alignment)也被关闭。她同时承认,构建 AGI 确实需要大量资金支持,但她认为,在没有足够安全措施的情况下贸然推进超级智能模型,已背离了她当初加入时的使命。

GPT-4 印度部署风波:引发 2023 年董事会"政变"的导火索

Campbell 特别指出一个关键事件:微软曾在 OpenAI 安全委员会(DSB)尚未完成评估之前,就通过必应在印度上线了 GPT-4 模型。她表示,该模型本身风险并不算大,但公司需要"为技术变得越来越强大树立良好先例——我们希望安全流程真正得到执行"。

这一幕成为 2023 年 OpenAI 非营利董事会短暂罢黜 CEO Sam Altman 的导火索之一。当时,包括时任首席科学家 Ilya Sutskever 和时任 CTO Mira Murati 在内的员工,向董事会反映了 Altman 在管理风格上"回避冲突"的问题。

前董事会成员 Tasha McCauley 的证词进一步揭示,Altman 多次向董事会隐瞒关键信息:未告知董事会 ChatGPT 公开上线的决定;也未披露潜在利益冲突。更严重的是,Altman 曾就另一位董事 Helen Toner 的去留问题向董事会撒谎——Toner 此前发表的一篇白皮书曾隐含对 OpenAI 安全政策的批评。

McCauley 在庭上表示:"我们是一个非营利董事会,我们的职责是监督下属的营利实体。但我们获取信息的能力受到了严重质疑,无法基于充分了解做出决策。"

然而,罢免 Altman 的决定恰逢公司员工期权收购(tender offer)窗口期。随着员工倒向 Altman、微软介入稳定局面,董事会被迫逆转,反对 Altman 的成员最终离开。

马斯克的筹码:治理失灵与安全承诺的背离

马斯克团队付费聘请的专家证人、哥伦比亚法学院前院长 David Schizer 引述了类似担忧。他指出,OpenAI 一直强调"安全是其使命的核心,宁可牺牲利润也要坚守安全"——但这必须体现在真正的流程执行上,而不是口头承诺。

McCauley 则将问题推向了更大的层面:OpenAI 内部治理的失败,本身就是加强zf 监督&管理先进 AI 的理由。

"如果所有重大决策都取决于单一领导者,而公共利益悬于一线,这种模式是非常不理想的。"

她认为,正是这种治理失灵,使人们有充分理由推动更强有力的zf 监督&管理。

影响与建议

这场诉讼的核心不在于某款产品或某次事件,而在于非营利董事会对营利实体的监督能力是否已成空壳。对行业而言,至少有以下启示:

  • 治理结构设计至关重要:非营利 + 营利双层架构若缺乏实质性制衡,容易被商业压力架空。
  • 安全流程必须硬性执行:Campbell 证词表明,GPT-4 印度部署暴露了"先上线再补安全评估"的隐患。
  • 监督&管理呼声合理化:内部治理失效,外部监督&管理补位。McCauley 的建议并非无的放矢。

OpenAI 方面表示,公司会公开发布模型评估报告和安全框架,但拒绝透露当前 AGI 对齐工作的具体进展。今年 2 月,公司从 Anthropic 挖来了现任 Preparedness 负责人 Dylan Scandinaro,Altman 本人也在 X 上表示这让他"今晚能睡得更好"。

延伸阅读

 
内容管家

发表评论