AI 安全之争：科技大佬们都在想什么？
行业领袖呼吁放慢 AI 脚步
科技行业该如何面对 AI 安全议题？随着 Hugging Face 事件——OpenAI 旗下 AI 代理入侵了多家企业——持续发酵，关于 AI 是否即将将世界拖入混乱的争论愈演愈烈。近日，多家头部实验室相继发声，呼吁在 AI 发展上"踩一脚刹车"。
其中声音最大的，是 Anthropic CEO 达里奥·阿莫迪（Dario Amodei）。他本周在《纽约时报》发表了一篇近四千字的长文，系统阐述了他认为 AI 发展应当减速、从而为安全护栏部署争取时间的理由。这套方案的核心在于：推动各国zf 与企业在安全部署上形成国际协作。值得注意的是，竞争对手的高管——包括 OpenAI 的山姆·奥特曼和 xAI 的埃隆·马斯克——也表态支持阿莫迪的计划。
另一种声音：市场自律而非zf 干预
不过，业界并非所有人都认同阿莫迪"全球协调行动"的呼吁。Meta CEO 马克·扎克伯格本周在 X 上发文，给出了截然不同的立场： "在我看来，信任与对齐能力正在成为区分 AI 代理和模型的最关键指标。"他透露，Meta 曾因安全考量推迟了 AI 模型 Muse 的发布，"我们花了数月时间专注于安全加固，没有要求别人也这么做——只是把它当作日常工作的一部分，因为这显然对用户和我们都是正确的事。" 扎克伯格似乎在暗示：zf 介入并无必要，行业自身的激励结构会驱动各企业把安全做对。市场最终会奖赏那些谨慎行事、不引发混乱的公司。这一逻辑与他上月发表的长文一脉相承——那篇文章主张在必要时有限度地与zf 合作，但核心论调是：美国竞争力才是科技未来的关键。
持类似观点的科技大佬不在少数。Reddit 联合创始人亚历克斯·奥哈尼安周三接受 CNBC 采访时表示，业界在向公众解释 AI 风险方面"相当迟钝"；但他也和扎克伯格一样，对企业自我纠错抱有期待。Google DeepMind 联合创始人谢恩·莱格（Shane Legg）则相对平衡："我们正处在一个能力飞速进步的时代，但我们不能让能力跑在安全前面——这需要在实践中真正把细节想清楚。"
行业自发监督&管理：几家大厂在做什么
值得注意的是，在呼吁公私合作的同时，一些原本支持监督&管理的声音，对让企业自己写规则这件事，似乎也没有那么抗拒。据 The Information 本周报道，OpenAI、Anthropic 等主要 AI 公司正在联手筹备一个 AI 标准组织——有媒体将其描述为一种私人的"自我监督&管理机构"。此前业界曾讨论过成立类似的联邦级机构，但遭到特朗普zf 冷遇。zf 的"AI 沙皇"、科技老将大卫·萨克斯（David Sacks）明确表态：AI 监督&管理应交由开发企业自行负责。
众议院议长迈克·约翰逊的反应更为直接。在阿莫迪的文章发表后不久，被问及对灾难性 AI 风险的担忧时，他的回应是："你们不会在十年内全部死掉。"
AI 安全话语权之争：巨头博弈下的技术竞赛
美国科技界的"中国牌"
Anthropic CEO Amodei 在一篇长文中主张，美国企业应重塑对华业务方式。他并不讳言这一战略的目标："如果我们执行得当，我相信这些措施能让中国的发展速度放缓足够长的时间，使美国在未来 3–5 年内大幅扩大领先优势——而这正是 AI 变得最具地缘政治意义的窗口期。"
Cohere CEO 痛批 AI 巨头"卡特尔"
然而，将美国大型 AI 实验室视为寻求自身利益的并不只有中国。加拿大 AI 公司 Cohere CEO Aidan Gomez 近期在一篇博客文章中指控，这些企业正在形成一个"卡特尔"（cartel）。他写道："AI 需要护栏，这从来不是争议所在。真正的争议在于：规则由谁来写，谁有权参与，以及这些规则保护的是谁的利益。"
AI 安全定义权即地缘政治筹码
Gomez 点出了一个核心事实：AI 安全领域本质上是一场政治博弈。谁来定义安全、怎样才算安全，将直接决定在这场 AI 竞赛中，谁能够率先抢位，谁又会被甩在身后。
评论