查尔斯三世召集 AI 领袖闭门峰会，警告"失控风险迫在眉睫"
当地时间周四，英王查尔斯三世在苏格兰艾尔郡的邓弗里斯庄园（Dumfries House，亦为王室慈善基金会名下 18 世纪庄园），主持了一场汇聚 AI 行业与英国zf 核心人物的闭门峰会。与会者包括英伟达 CEO 黄仁勋、OpenAI 与 Anthropic 高层、新任英国 AI 部长 Kanishka Narayan、英国对外情报局（军情六处）负责人，以及为罗马教廷提供 AI 伦理咨询的神父 Paolo Benanti。
国王罕见发声：AI 或可"夺命"，必须"提前管控"
查尔斯三世此次讲话颇为罕见——出于宪政考量，王室通常对 AI 这类高度政治化议题保持距离。国王在致辞中直言 AI 发展速度及其"实质"令他"既着迷又深感忧虑"，并敦促在场领袖在"为时已晚之前"建立管控机制。
他援引 AI 在医疗与科学领域的突破，肯定其"改善和拯救生命的巨大潜力"，但话锋一转，提及 AI 研发者自身近来也在发出警告——技术可能发展出"更黑暗的能力"，"甚至夺走生命"。这一表态恰在 Anthropic 一位研究员公开辞职后数日：当事人在网上直言 AI 企业正在"竞相打造远超人类智能的机器"，人类"或许无法幸存"。
查尔斯三世进一步强调，当技术落入"错误之手"并以"潜在灾难性方式"被使用时，人类必须紧迫地审视其"存在性风险"。
"我们是否需要在一切都太迟之前，获得足够的管控手段？"
闭门讨论与各方表态
国王致辞后约二十分钟便离席，将时间留给各与会方自行讨论。OpenAI 与会代表为 CFO Sarah Friar，Anthropic 则派出负责全球事务的 Tino Cuéllar。Cuéllar 会后表示，公司很荣幸参与讨论，并感谢查尔斯三世"召集行业领袖与社会各界声音，共同探讨 AI 如何服务公共利益"。
值得注意的是，就在峰会前，Anthropic 宣布将其 Fable 与 Mythos 模型仅对美国用户开放，此举在欧洲科技圈引发震动，再次引发关于"AI 主权"的讨论。
峰会背景：AI 治理已成大国博弈焦点
这已是查尔斯三世连续第三年在此类场合就 AI 议题发声，但今年峰会时机尤为微妙。本月，OpenAI CEO Sam Altman、Elon Musk 与 Anthropic CEO Dario Amodei 共同呼吁放慢 AI 开发节奏，随即遭英伟达黄仁勋及特朗普总统明确反对。特朗普称："美国在 AI 领域领先中国，我们是世界最成熟的国家，我希望保持这一地位——因为谁赢得 AI，谁就赢得一切。" OpenAI 与 Anthropic 过去一年均传出 IPO 计划，但 OpenAI 近期表示，受 AI 安全争议持续影响，今年 IPO 推进受阻。大企业利益、政治意志与公共安全之间的张力，正在这场峰会上集中显现。
评论