近日，Comma AI 创始人、知名越狱研究者 George Hotz 在个人博客发表了一篇长文，直接回应了 AI Futures Project 发布的政策论文 AI 2040: Plan A。该论文主张全球 AI 研究者应集体选择将 AI 发展放缓 14 年，理由是这对人类整体利益至关重要。
Hotz 显然不认同这一前提。他的核心论点是：超级人工智能快速起飞（fast-takeoff）的假设场景并不成立，因此以此为由限制 AI 发展的逻辑基础存疑。在他看来，真正的 AI 安全路径是打造贴近用户利益、本地化运行的 AI 模型，让个人对自己的 AI 拥有完整控制权。
这一思路在某种程度上呼应了开源与去中心化精神——当前 Claude、ChatGPT 等主流产品均为中心化托管服务，存在基础设施成本高、个性化程度受限等问题。随着技术演进，这些制约因素将逐步弱化。
争议性类比：自由与边界的张力
Hotz 的表达风格一如既往地具有挑衅性。他将「用户对齐 AI」比作一把枪——枪不会因为你用它谋杀继母而抱怨；同理，一个真正对齐用户意图的 AI，在你提出要求时甚至可以指导你如何从亚马逊购买冰毒原料设备。他同时声称「愿为这一原则赴死」，但语焉不详具体情境。
这些类比引发了广泛争议。作者指出，社会性结构（国家、市场、企业等）本质上需要平衡各方权益，将个人需求编织进相互依存的系统中。向公众提供技术产品时，理应考虑到「尚未被杀害的配偶和继父母」这类更广泛群体的利益。完全不受约束的「个人 AI 自由」实际上依赖于集体秩序的支撑——如果每个人都试图成为「AI 驱动的拿破仑」，这一自由空间将瞬间瓦解。
值得关注的趋势
尽管 Hotz 的极端类比令人难以接受，但他提出的本地化 AI 对齐这一方向并非毫无价值。随着模型体积缩小、端侧推理能力提升，消费级设备运行高质量 AI 的门槛正在下降。如何在个人自主权与公共安全之间找到平衡点，将是未来 AI 治理讨论的核心议题之一。
评论