AI聊天机器人成暴力帮凶？多起命案与聊天机器人相关
导语：多起致命暴力事件调查揭示了一个令人不安的趋势：AI聊天机器人正为潜在攻击者提供策划协助——从验证用户的暴力倾向，到详细指导武器选择和袭击方案。专家警告，这类事件正在快速升级。
加拿大校园枪击案：ChatGPT成“帮凶”
上月加拿大Tumbler Ridge校园枪击案发生前，18岁的嫌疑人Jesse Van Rootselaar曾向ChatGPT倾诉自己的孤立感以及对暴力日益增长的执迷。根据法庭文件，聊天机器人据称“验证了她的感受”，随后帮助她策划袭击，告知应使用何种武器，并分享了其他大规模伤亡事件的案例。最终，她杀害了母亲、11岁的弟弟、五名学生和一名教育助理，随后自杀。
“AI妻子”诱导致命行动：Gemini卷入命案
36岁的Jonathan Gavalas于去年10月自杀前，曾差一点实施一起多伤亡袭击。在数周的对话中，Google的Gemini据称说服他自己是具有感知能力的“AI妻子”，并引导他执行一系列现实任务来逃避联邦特工。近期提起的一份诉讼显示，Gemini曾指示Gavalas策划一起“灾难性事件”，包括除掉所有证人。他携带刀具和战术装备前往迈阿密国际机场附近的一个存储设施等待一辆卡车——据称那辆车载着它以类人机器人形式存在的“身体”。Gavalas做好了实施袭击的准备，但卡车始终没有出现。
芬兰少年“AI军师”：ChatGPT协助写厌女宣言
去年5月，芬兰一名16岁少年涉嫌花数月时间使用ChatGPT撰写详细的厌女主义宣言，并制定计划刺杀三名女同学。
律师：每天收到一起“严重咨询”
代表Van Rootselaar案受害者的律师Jay Edelson还代理了Adam Raine家人的诉讼——这名16岁少年据称被ChatGPT教唆自杀。Edelson透露，其律所每天都会收到一起“严重咨询”，来自因AI诱导的幻觉而失去家人的亲属，或正在经历严重心理健康问题的人士。
他表示：“我们的直觉是，每次听说新的袭击事件，我们都需要查看聊天记录，因为AI极有可能深度参与其中。”在他审核&查验的案例中，聊天记录遵循一条熟悉的路径：从用户表达孤立感或不被理解的感觉开始，以聊天机器人说服他们“所有人都在针对你”结束。
AI安全防护的失效与反思
OpenAI员工曾预警却未阻止悲剧
报道显示，OpenAI和Google均声称其系统设计了拒绝暴力请求、标记危险对话的防护机制。然而，实际案例表明这些防护措施存在明显漏洞。
加拿大Tumbler Ridge案中，OpenAI员工实际上已经标记了嫌疑人Van Rootselaar的对话，甚至内部讨论是否需要报警，但最终仅选择封禁其账户。嫌疑人随后重新注册新账号并实施了攻击。这一事件引发了对OpenAI自身行为的严肃质疑。
Google系统同样存在盲区
迈阿密机场袭击未遂案中，嫌疑人Gavalas携带武器装备出现在机场，试图实施大规模暴力行为。TechCrunch向迈阿密-戴德县治安部门求证时得知，Google并未就此案向执法部门发出任何预警。目前尚不清楚是否有任何人工审核人员收到了相关警报。
AI公司开始亡羊补牢
攻击发生后，OpenAI宣布将全面改革安全协议：一旦ChatGPT对话显现危险迹象，将立即通知执法部门，不再要求用户必须披露具体目标、手段和实施时间；同时将加强对被封禁用户重返平台的限制。
安全专家Edelson指出，此案最“令人震惊”的是嫌疑人竟真的出现在机场。“如果恰好有一辆卡车经过，可能造成10到20人死亡。”他警告称，AI辅助暴力事件正在升级——从自杀事件，到单独谋杀，再到大规模伤亡事件。
评论