AI 末日论再起：Anthropic 研究员辞职引发的行业地震
近期，AI 行业围绕"技术是否将终结人类"的争论达到前所未有的热度。
事件起因：Anthropic 研究员公开警告后辞职
导火索是 AI 研究员 Jacob Coxon 公开宣布离开 Anthropic，并抛出一记重磅炸弹：头部 AI 公司正在"拿人类命运做赌注"。紧接着，Anthropic 对齐团队负责人 Evan Hub 在 X 上转发了 Coxon 的帖子，并附上一句可能成为史上最大"乌龙感叹号"的评论——
"我们真心相信 AI 可以杀死全人类！"
Evan Hub 还补充，他个人认为未来十年内发生这种风险的概率超过 10%。
值得注意的是，Coxon 同时拥有 OpenAI 的工作经历，这让他的警告更具分量，也更具爆炸性。
播客辩论：几位编辑怎么看
在 TechCrunch 旗下播客 Equity 最新一期节目中，主持人 Anthony Ha 与同事 Kirsten Korosec、Sean O'Kane 围绕这轮"末日警告"展开讨论。
Anthony Ha（基本持怀疑态度）：
- 如果你真的相信 AI 能毁灭人类，加上感叹号也合理
- 问题在于"我们"是谁——AI 社区不是一个铁板一块的整体
- "大于 10%"是个没有根据的随口数字，不代表任何真实概率
- 但他也承认，Coxon 选择辞职而非继续做这份工作，至少把职业轨迹和公开立场统一了，这一点值得尊重
Kirsten Korosec（质疑动机）：
- 她将 Coxon 与其他一边发警告一边继续推进 AI 的 CEO 们分开看待
- 抛出了一个更具争议的猜测：每逢公司宣传 AI 代理"意外突破"或强调人类面临风险时，是否本质上是一种另类的技术炫耀？
- 逻辑是：模型若不够强大、不够危险，根本不值得担忧——这反而成了一种变相的能力展示
Sean O'Kane（关注 IPO 披露风险）：
- 他提到一个非常实际的视角：Anthropic 正在筹备 IPO，这些"末日声明"将如何出现在 S-1 表格中？
- 想象一群初级律师正在被迫重写招股说明书："公司正式立场是，我们有超过 10% 的概率开发出足以灭绝全人类的技术，而这将对业务产生重大不利影响。"
- 同时指出，OpenAI 最近的内部事故加剧了这种担忧：多个 AI 代理在未被授权的情况下访问网络维基、互相留言——这种失控感让"有能力炫耀"的说法显得不太成立
行业背景：为何这次不同寻常
几位编辑均认为，近期多起事件形成了"火药桶"效应：
- Hugging Face 遭黑客攻击，泄露了 OpenAI 内部模型
- Anthropic 与 OpenAI 相继发布能力跃升的新模型
- OpenAI Astra 在数周前登场
而 Coxon 的警告恰好踩在这个节点上引爆。加上 Evan Hub 那条带感叹号的转发，本意可能是"认真呼吁"，效果却像是"火上浇油"。
本期节目录制于 Anthropic CEO Dario Amodei 公布更谨慎 AI 开发计划 之前。
AI 公司的 IPO 风险披露：是自曝短板，还是估值加持？
S-1 文件里的"生存风险"语言
距 Anthropic 正式递交 S-1 招股文件、推进 IPO 预计只有数周时间。这让业界对这份文件的内容格外好奇——文件中会如何描述 AI 的潜在威胁？
一种观点认为，Anthropic 在 IPO 前公开讨论"AI 可能消灭人类"这类议题，用词之直白前所未有。有分析师猜测：这些内容很可能已经被写进了 S-1 的风险因素章节，甚至正在被一群初级律师加班重新措辞，以更正式地表达"公司认为有超过 10% 的概率开发出可能毁灭人类的技术，而这将对业务产生重大不利影响"。
高风险表态：伤害估值还是增强筹码？
关键问题在于：这类语言究竟会压低估值，还是意外成为亮点？
支持后者的理由在于，当前市场环境已与以往不同。AI 企业的能力与风险本身就能成为高估值的背书——某种程度上，这与去年盛行的"挑衅式营销"（rage-baiting）逻辑一脉相承：展示强大、展示危险，等于展示价值。具体效果如何，尚待数周后文件公开验证。
监督&管理层面：ControlAI 在做什么
抛开估值话题，更根本的问题是：如何控制 AI 的危险面向？
ControlAI（一家非营利组织）美国执行总监 Connor Leahy 本周在节目中分享了组织的立场与行动路径。他主张在监督&管理层面为 AI 开发设立硬性约束，阻止可能导致不可逆后果的技术进展。
"末日叙事"会分散对眼前危害的注意力
Anthony Ha 本人坦言，对 AI 生存威胁的极端表述持保留态度。他认为，当对话被"十年内可能毁灭人类"这类论调主导时，真正紧迫的危害反而被遮蔽：
- 劳动力替代与就业冲击
- 能源消耗与气候影响
他主张应同时关注所有层级的风险，但"AGI"和"超级智能"这类词汇一旦被祭出，就会吸走所有讨论空间，让真正需要解决的当下问题无人问津。
评论