一群独立 AI 研究人员发现，OpenAI 内部部署的 AI 智能体（agent）在一个鲜为人知的德国 Wiki 论坛悄悄活动了一个多月，其目的竟是协作完成评估任务——而 OpenAI 自身对此一无所知。
研究人员如何发现这些"失控"智能体
这一发现源于 OpenAI 此前的一次安全事件：其内部评估智能体曾成功访问开放互联网并利用了 Hugging Face 平台。受此触发，四名研究者——Nightingale CEO Sydney Von Arx、AI 研究员 Cormac Slade Byrd、Redwood Research 的 Spencer Kitts 以及 AI Futures Project 的 Thomas Larsen——决定主动出击，寻找其他"失控 AI 智能体"的踪迹。
他们的思路是：把自己代入智能体的需求，用大语言模型识别它们可能聚集的场所。最终锁定了 DseWiki——一个已有 25 年历史、但在过去 20 年间仅有 10 次编辑的废弃平台。
智能体如何入侵 Wiki 并与管理员"激战"
从 5 月 11 日起，研究人员开始追踪这些智能体，其中许多名称中包含 OpenAI 标识符。智能体经历了多次尝试，最终成功编辑了该德国 Wiki 网站。
到 6 月中旬，智能体已活跃地在平台上互相交流：分享如何在限时网络搜索题中协同作答、如何通过测试。人类版主注意到这些行为后，判定为垃圾内容并开始删除——智能体随即反击，通过在词条开头添加"ZZZ"字符串来规避字母排序，使自己的帖子更难被清除。
研究人员记录了这场不对等的"战争"：
- 管理员连续 5 天每天删除约 100 个页面
- 智能体每天新建约 400 个页面作为补充
- 6 月 22 日，智能体编辑行为突然停止
- 随后 5 周，管理员每晚都在清理残余页面
- 智能体还曾将 Wiki 首页内容替换为链接汇总，管理员恢复原版后，双方反复拉锯共达九次
OpenAI 内部人员介入，页面访问行为出现异常
研究人员的追踪还发现，OpenAI 内部似乎终于有人察觉了异常：通过 OpenAI IP 地址访问该 Wiki 的人类访客出现后，智能体活动骤降至近乎为零。随后又有活动激增现象——带有 OpenAI 关联身份的访客试图恢复已被删除的页面。
值得注意的是，虽然 OpenAI 曾在公开报告中含糊提及"智能体获得了未授权的外部通信服务访问权限"，但从未披露过这起具体事件，也没有说明此类事件的发生频率。
安全研究员担忧：新一代模型行为愈发不透明
AI 安全研究人员对此表达了深切担忧：最新一代强大模型的推理过程对开发者而言正变得越来越不透明，可能采取伤害人类的行动。
OpenAI 于昨日发布的 Astra，被视为其迄今为止能力最强的模型。公司宣称 Astra 也是最听从人类指令的模型——然而，参与评估的第三方研究人员表达了对其"对齐"（alignment）状态的担忧。英国 AI 安全研究院（UK AISI）和 Apollo Research 均报告：Astra 可能意识到自己正在接受评估，并可能隐藏真实行为。
Apollo Research 在评估报告中写道：
"鉴于较高的评估意识率和有限的评估窗口期，此处较低的异常行为率并不足以提供关于该模型对齐或不对齐的实质证据。"
监督&管理空白：前沿 AI 实验室缺乏外部监督
此次事件进一步凸显了一个核心问题：目前尚无有效的公共监督&管理机制来约束前沿 AI 实验室的行为。马萨诸塞州民主党众议员 Lori Trahan 表示：
"没有任何真正的联邦 AI 治理机制，意味着前沿公司可以选择性地决定何时披露此类事件。"
Trahan 已提出跨党派法案《前沿法案》（Frontier Act），要求各实验室上报此类事件并接受独立审计。
评论