Anthropic CEO 阐述前沿 AI 控速计划

内容管家 AI领域评论0字数 1736阅读5分47秒阅读模式
Anthropic CEO 阐述前沿 AI 控速计划

AI 前沿的疯狂提速正在引发越来越多的警惕信号。OpenAI CEO Sam Altman 此前暗示或许是时候「放慢」发展脚步,而 Anthropic CEO Dario Amodei 近日更进一步,在一篇博客文章中不仅呼应了这一主张,还首次系统阐述了三项具体策略,并宣布 Anthropic 将「单边承诺」执行其中一项。

这一讨论在本周骤然升温——研究员 Jacob Coxon 公开宣布从 Anthropic 辞职,直指头部 AI 企业「正在拿人类命运做赌注」,而内部其他声音也在社交平台上重复了同样的担忧。Anthropic 并未正面回应辞职事件,但 Amodei 在文章中透露,真正促使他转向审慎路线的有两件事:OpenAI-HuggingFace 被黑事件,以及近月来 AI「正以惊人速度进化」、尤其是「自行构建下一代 AI 的能力持续增强」这一事实。

三条路径:谁来监督、如何协调、全球能否联手

Amodei 在文章中明确写道:「我们必须放慢 AI 模型能力提升的速度,进步仍会显得很快,但我们必须明智地利用好争取来的时间。」他提出的具体路径如下:

引入第三方「嵌入式评估者」

Amodei 建议由 METR 这类第三方组织派出评估人员,嵌入 AI 公司内部,核查企业是否真正兑现了减速与安全承诺,同时确保安全事件得到上报。OpenAI 此前因未上报 AI 智能体接管德语百科编辑表单事件而受到批评。Amodei 将这种机制比作监督&管理人员入驻银行柜台的做法,并宣布 Anthropic「单边承诺」向此类评估者开放——发放工牌、提供工位和设备,赋予与内部风险评估团队「基本相当」的访问权限(法律或合同要求的例外情况除外)。他同时呼吁各国zf 将这一要求设为前沿 AI 企业的强制性义务。

头部企业协调安全标准与增速上限

Amodei 呼吁「民主国家的头部 AI 企业」协调制定「共同安全标准,并对未经检验的 AI 进展速度设定上限」。这一提议的现实障碍显而易见——Amodei 与 Altman 之间的公开紧张关系之外,各企业也据报担心联手减速会引发反垄断审核&查验。Amodei 在文章中承认这一点,并建议「出于反垄断目的,美国zf 应当居中调解或至少为特定安全对话提供免责空间」。

全球协调:即便有限也是必要

Amodei 还提及了「中国 AI 主导」这一常被用来反对减速的论点。他的回应是:若美国zf 和科技企业对华禁售高端芯片及半导体制造设备,并加大打击模型蒸馏的力度,完全可以「在 3–5 年内显著扩大美国的领先优势」。在更广的全球协调层面,Amodei 主张美国及其盟友「尽可能与威权zf 协调」,包括「与中国合作」,并承认成果「极为有限」,但仍建议可先从「明确禁止某些危险用途」入手,例如利用 AI 研发生物武器或协助用户获取此类能力。

各方反应:悲观派 vs.「分心术」质疑

作为 AI 领域中对风险最为坦率的企业领导者之一,Amodei 过去多次承认 AI 潜在危险的立场,已招致部分 AI 乐观派批评为「末日论者」,认为其言论正在加剧当前社会对 AI 的反弹。Amodei 本人则反驳称自己一直试图呈现「平衡」视角,并指出反弹的本质是「信任危机」——公众对科技公司、行业整体以及zf 都产生了深深的不信任。

然而,质疑声并非只来自乐观派。行业批评者反驳道,这些末日警告实际上是在转移公众对 AI 当前已造成危害的注意力。记者 Brian Merchant 更尖锐地指出,他「尚未看到任何可信的、逐步骤的文档,说明 AI 如何从自我递归改进走向消灭全人类」;而类似 Amodei 所提的监督&管理方案「最终很可能只会服务于 Anthropic 和 OpenAI——这正是监督&管理俘获的典型运作方式」。

Apple 推出旗下首款折叠屏手机 iPhone Duo

Apple 终于迈入折叠屏赛道。Bloomberg 报道称,这款设备内部代号为「iPhone Duo」,展开后接近 iPad Mini 尺寸,采用双铰链设计,可实现 180° 平展。目前已知细节有限,但坊间普遍猜测该产品将在 2026 年秋季发布会上正式亮相。

折叠屏手机市场已相当拥挤——Samsung Galaxy Z Fold/Flip、Motorola Razr、OnePlus Open 均已迭代多代。Apple 此时入局,能否凭借生态整合和软件体验建立差异化,值得关注。

OpenAI 被指在 NYU 数学难题上「暗中作梗」

据 Russell Brandom 报道,纽约大学数学家兼计算机科学家明确指控 OpenAI 在一项颇具影响力的数学研究上采取了不正当竞争手段。该问题被认为关乎从业者的学术生涯走向,争议核心涉及数据使用与模型评测流程。目前双方均未给出完整回应,事件仍在持续发酵。

Elizabeth Holmes 纪录片惊现 Telluride 电影节

一部关于血液检测公司 Theranos 创始人 Elizabeth Holmes 的全新纪录片在 Telluride 电影节首映后引发广泛讨论。该片据称掌握了此前未曾公开的内部资料与访谈素材,有望为这场长达数年的硅谷造假丑闻提供新的审视视角。纪录片具体上映日期与流媒体平台尚未公布。

Tesla 自动驾驶出租车 Cybercab 上路实测

Tesla 自动驾驶出租车项目 Cybercab 已在部分场景开放路测。不过 TechCrunch 记者 Kirsten Korosec 在实际体验中发现,车辆在复杂路况下仍会触发人工接管介入,系统对施工绕行等场景的应对能力有待提升。

Tesla 一直将 Robotaxi 定位为未来出行的核心业务,但监督&管理审批进度、传感器方案(纯视觉 vs 激光雷达)选择、以及公众信任建立,均是商业化路上必须跨越的门槛。此次实测暴露的问题表明,真正意义的「无人驾驶」仍需时间打磨。

延伸阅读

 
内容管家

发表评论