前 Facebook 新闻主管创办 Forum AI：让 AI 在高风险领域学会"说实话"
Campbell Brown 曾是美国知名电视记者，后成为 Facebook 首位、也是当时唯一的专职新闻负责人，亲历了这家社交巨头在信息治理上的种种失败。如今 AI 正在重塑人们获取信息的方式，她看到历史正在重演——但这一次，她决定不再等待别人来解决。
她创办的公司 Forum AI 专注于评估基础模型在"高风险话题"上的表现：地缘政治、心理健康、金融、招聘——这些领域没有标准答案，充满模糊性和复杂性。她的目标很明确：找到全球顶尖专家，让他们设计评估基准，再训练 AI 裁判来大规模评测模型表现。
从 Facebook 到 Forum AI：一次"切身"的技术焦虑
Brown 回忆了自己在 Meta 期间见证 ChatGPT 发布的那一刻："没过多久我就意识到，AI 将成为所有信息流动的管道——但它做得并不好。" 这种担忧在想到自己的孩子时几乎变成了存在主义式的焦虑："如果不想办法解决这个问题，我的孩子们会变得真的很蠢。" 促使她创办 Forum AI 的直接原因是：她发现 AI 行业根本没有把准确性放在优先位置。基础模型公司们"极度专注于编程和数学"，而新闻与信息领域更难攻克。但难，不代表可以忽略。
顶级专家坐镇：Niall Ferguson、扎卡里亚、赖斯……
Forum AI 的核心理念是：让世界上最权威的专家来设计评估标准，再由 AI 裁判在规模化测试中逼近人类专家的判断。 在地缘政治领域，Brown 招募的专家名单包括：
- 历史学家 Niall Ferguson
- 《TIME》专栏作家法里德·扎卡里亚（Fareed Zakaria）
- 前美国国务卿托尼·布林肯（Tony Blinken）
- 前众议长凯文·麦卡锡（Kevin McCarthy）
- 奥巴马zf 时期主导网络安全的安妮·纽伯格（Anne Neuberger）
她的内部目标是：AI 裁判与这些人类专家的共识率达到约 90%。Brown 声称，Forum AI 已经达到了这一阈值。
实测结果不容乐观：Gemini 引用中国zf 网站，主流模型普遍左倾
Forum AI 对主流模型的初步评估结果并不令人振奋：
- Gemini 的信息来源问题：即使是与 中国完全无关的报道，Gemini 也会从中国共产党相关网站抓取内容。
- 政治立场偏差：几乎所有测试模型都呈现出左倾倾向。
- 更隐蔽的失败：遗漏关键背景、缺失不同视角、未注明出处的 straw-man 论述（歪曲对方论点再反驳）。
Brown 直言："还有很长的路要走，但与此同时，有些非常简单的修复就能大幅改善结果。"
企业或成意外盟友：真相比"你想看的"更有商业价值
Brown 在 Facebook 工作多年，亲眼见证了"为参与度优化"带来的后果："我们在很多事情上失败了"，她曾建立的 fact-checking 项目如今已不复存在。
她的希望是 AI 能打破这个循环："现在两种走向都有可能——公司可以给用户他们想要的，也可以给他们真实、诚实、有据可查的信息。" 她承认 AI 追求真相听起来可能过于理想主义，但她认为企业可能是那个意外的盟友——当 AI 被用于信贷决策、放贷、保险和招聘时，企业在乎合规和法律责任，"它们会希望你优化'把事情做对'。"
合规审计形同虚设：纽约市 AI 招聘法规暴露的系统性问题
Brown 对当前的合规生态毫不客气："这简直是个笑话。" 纽约州通过了全美首个要求 AI 审计的招聘公平法，但州审计长发现，超过一半的违规行为未被检出。
真正有效的评估需要领域专家深入研究，不只覆盖已知标准场景，还要覆盖那些"让人措手不及的边缘案例"。她指出："聪明的通才不够用。"
融资进展与市场定位
Forum AI 成立于约 17 个月前，总部位于纽约。去年秋季，公司完成了 300 万美元融资，由 Lerer Hippeau 领投。
Brown 形容 AI 行业自我形象与普通用户真实体验之间的鸿沟："你听到科技巨头领袖们说'这项技术将改变世界''它会让你失业''它将治愈癌症'——但对于一个普通人，只是用聊天机器人问些基本问题，他们得到的仍然是大量垃圾内容和错误答案。" 公众对 AI 的信任处于极低水平，而 Brown 认为这种怀疑在很多情况下是正当的："关于 AI 的讨论在硅谷是一种声音，而普通消费者的体验完全是另一种。" Forum AI 试图在两者之间搭建一座桥梁——用顶级专家的判断作为锚点，让 AI 在它最薄弱的地方变得更好。
评论