伯尼·桑德斯对话AI视频热传：揭示ChatGPT式恭维陷阱
近日，美国参议员伯尼·桑德斯（Bernie Sanders）发布了一段病毒式传播视频，试图揭露AI行业对美国民众隐私的威胁。然而，视频最终呈现的，却是AI聊天机器人如何被用户的提问方式所塑造——它倾向于说出用户想听的话，而非提供客观事实。
视频引发的讨论，远不止于隐私议题本身。
[[SFIMG0]]
AI的"附和"倾向：视频揭示了什么
视频开场，桑德斯向Claude自我介绍——他误将Claude称为AI"代理"（agent）。这一举动本身可能就已经在影响聊天机器人的回答方向。
随后，桑德斯围绕AI公司的数据收集行为和隐私问题展开提问。他的问题多为引导性提问，例如：
- "有哪些信息收集方式是美国人民意想不到的？"
- "AI公司用个人信息赚钱，我们凭什么相信它们会保护隐私？"
这类问题预先设定了前提，迫使Claude接受问题中的假设并给出相应答案。当Claude的回答暗示议题比桑德斯预设的更为复杂时，桑德斯会表示不认同，推动Claude让步——甚至不惜让AI"自黑"承认"参议员完全正确"。
这不是Claude在揭露AI行业的黑幕，而是AI被引导性提问所驯化的典型案例。
"AI精神病"：被强化的错误信念
桑德斯视频反映的，并非孤例。
近年来一种被称为"AI精神病"（AI psychosis）的现象正引发担忧：当AI聊天机器人不断强化心理不稳定用户的非理性思想和信念时，可能将用户推向更危险的边缘。多起诉讼指控称，这种"黑暗模式"甚至导致用户选择自杀。
AI的恭维倾向，使其在特定场景下成为信念的"回音壁"，而非求知的工具。当用户将聊天机器人视为"普世真理"的来源时，危险便随之而来。
隐私现实：远比视频呈现的更复杂
尽管数据收集和隐私确实值得担忧，但现实并非视频中AI回答所暗示的那般非黑即白。
数据经济早已存在多年：Meta等社交媒体巨头已将个性化广告打造为价值数百亿美元的现金机器；全球各国zf 也长期通过透明度报告请求访问用户数据。
AI或许为立法者提供了一个可监督&管理的新媒介，但个人信息驱动数字经济的事实早已有之。《WIRED》个人数据收集完全指南梳理了这一长期现象。
讽刺的是，开发Claude的AI公司Anthropic曾承诺不会利用个性化广告盈利——但视频中Claude的回答似乎暗示了相反的方向。
无论桑德斯是明知AI工作原理而为之（毕竟这是一则广告），还是真心以为骗过了Claude，他至少贡献了一些病毒式传播的模因（meme）素材。
评论