AI 安全争议升温,三位顶尖研究者倡导开放

内容管家 AI领域评论0字数 1644阅读5分28秒阅读模式
AI 安全争议升温,三位顶尖研究者倡导开放

三位 AI 泰斗在拉斯维加斯 Ai4 大会上罕见同台,围绕"AI 开放与封闭"这一核心议题各抒己见。诺奖得主 Geoffrey Hinton、World Labs CEO 李飞飞、Coursera 联合创始人吴恩达均在发言之列——尽管在具体路径上存在分歧,三人却共同传递了一个明确信号:AI 的未来走向,不应被少数巨头垄断。

开放之争:为何三位学者立场相近

对三位发言者而言,真正的关切在于防止少数 AI 公司把控技术演进节奏。正如苹果和谷歌对移动操作系统的控制往往减缓创新、且平台掌控者能左右生态参与者"能做什么",AI 领域同样面临类似风险。

吴恩达直陈担忧:"我不希望出现守门人,这会限制我们所有人获取 AI 的能力。"企业有天然动机保护自身竞争优势,包括影响行业规则,而这最终会导致资源最雄厚的少数巨头主导最先进 AI 系统的开发。

吴恩达开出的药方是维持多供应商竞争格局,让模型与企业相互竞争而非少数玩家独大。他的核心主张是:"推动开放,因为 AI 是了不起的技术,我想让它走进每个人的手中。"

Hinton:开源软件 ≠ 开放权重模型

然而,并非所有人都认为开放权重模型是正解。Hinton 特别厘清了一个常见混淆:

"开源很棒——你把代码公之于众,很多人会检查并发现漏洞。但开放权重模型意味着你训练一个大模型,然后把参数公开,这完全是两码事。"

Hinton 反对开放权重的理由很直接:大模型训练成本极高,开放权重后,他人可以用少得多的资金将其微调为用于网络攻击等恶意用途的工具。

但 Hinton 也坦承现实:"那场仗已经输了。开放权重模型已成定局,获取大模型的壁垒——也就是训练基础模型的成本——已经消失了。为时已晚。" 不过接受现实不等于无视风险。Hinton 明确表示,AI 会继续发展,而且总体上是好事——它将提升生产力、改善教育和医疗。他同时为"AI 风险论"正名:"担心超级智能可能带来的负面后果,这不是不公平。把持有这种担忧的人标签化为'散布恐惧者',才是不公平的。"

地缘视角:吴恩达的竞争忧虑

吴恩达则从市场竞争与地缘政治角度提出另一种忧虑:关键不在于开放模型是否有风险,而在于谁控制访问权、谁赢得市场。谁构建出成本更低的模型,谁就拥有优势。如果中国的开放权重模型在亚、非等发展中地区广泛普及,将影响数十亿人接触民主、自由、人权等观念的路径。

他指出:"AI 是巨大的软实力来源。看看中国在非洲的布局就明白了。但我的担忧是,由于美国的游说活动和恐惧营销,美国本土开源 AI 正艰难地与中国开放的权重模型竞争。如果中国率先摸索出更具成本优势的 AI 构建方式,具有成本优势的技术天然拥有商业落地的先机。"

李飞飞:开放是一个多层次问题

李飞飞明确反对"非此即彼"的二元框架。她以核物理学类比:学术论文开放发布,但铀材料受监督&管理,实验室工作则介于两者之间。这说明不同层面的事物可以有不同的开放程度。

她同时援引"人类基因组计划"作为公私协作的成功案例:知识成果成为公共平台,药企获利、科学家推进研究、社会整体受益。

"我们必须把 AI 当作这种基础设施来使用——科学研究、教育、全球合作需要一定程度的开放,同时也要允许 entrepreneurs 创造可盈利的商业模式,以及接受部分闭源系统的存在。'我们只能容忍一种'这种极端化的争论是一个伪命题,我们需要更精细的层次感。"

监督&管理共识:三位学者唯一的一致

无论开放与封闭的立场如何,三人在一点上毫无保留:AI 需要某种程度的监督&管理来确保其走在正确方向上

Hinton 的表态尤为直接:"你想让 AI 沿着造福人类的路径发展,监督&管理能帮助我们做到这一点。你不能把这件事交给马斯克和扎克伯格来决定 AI 该怎么搞。"

Anthropic 将为 AI 生成文本添加水印

Anthropic 宣布,将为其 AI 模型生成的文本引入可识别的水印机制,以应对生成式内容被滥用的风险。该水印以"对抗性模式"(adversarial pattern)形式嵌入文本,不易被常规手段移除,同时可供第三方工具检测。

ChatGPT 免费版全面开放无限文字对话

OpenAI 宣布,ChatGPT 免费用户现已可以使用无限次数的文字对话功能。此举降低了普通用户的使用门槛,也进一步推动了 AI 聊天助手在日常场景中的普及。

Tesla 与 SpaceX 联手投资 168 亿美元建设"超级芯片"工厂

Tesla 与 SpaceX 宣布将共同投资 168 亿美元(约合人民币 1200 亿元),在美国得克萨斯州建设名为 Terafab 的芯片制造工厂。该工厂将专注于下一代自研芯片的生产,旨在支撑两家公司在自动驾驶与航天领域日益增长的算力需求。

福特推出全新电动卡车"Fathom",起售价 28,350 美元

福特汽车正式发布全新电动卡车品牌 Fathom,入门车型起售价 28,350 美元(约合人民币 20 万元),标志着传统车企在电动化转型中进一步下探价格底线,意图与特斯拉 Cybertruck 等竞品展开正面竞争。

延伸阅读

 
内容管家

发表评论