Google DeepMind CEO Demis Hassabis 周二上午在 X 平台发帖，呼吁建立一个专门监督&管理机构，对前沿模型（frontier model）的发布进行审核&查验。该提案名为《前沿 AI 框架与新时代的曙光》，主张参照金融业监督&管理局（FINRA）的模式，设立一个"标准机构"，负责前沿模型的安全评估与发布规范制定。
提案核心：建立前沿模型标准机构
Hassabis 在帖子中描述了这一机构的运作模式：
- 自愿提交审核&查验期：模型开发商最初可自愿在正式发布前 30 天，将模型提交标准机构审核&查验。
- 逐步强制化：一旦评估协议被验证有效且可靠，将快速推进强制化——即所有前沿模型须通过该机构审核&查验，方可在美国市场部署。
- 发布后漏洞跟进：开发商还需与标准机构合作，处理模型发布后发现的任何关键安全漏洞。
这一机制的雏形，是美国zf 此前对 Anthropic 的 Mythos 系列和 OpenAI 的 Sol 系列进行的非正式审核&查验。不过，那些审核&查验因技术专业性不足、决策过程不透明而备受批评。Hassabis 提议的新监督&管理机构，将由美国zf 背书、AI 行业提供资金，但独立运营。
绕过政治阻力：自我监督&管理组织模式
AI 监督&管理议题在美国一直充满争议。白宫 AI 顾问兼 a16z 普通合伙人 Sriram Krishnan 近期明确表示"不会有一个针对 AI 的 FDA"，淡化了在行政分支内设立正式监督&管理机构的可能性。
Hassabis 的方案则试图绕开这一政治障碍：将标准机构定位为类似 FINRA 的自我监督&管理组织（Self-Regulatory Organization，SRO），由行业自行出资运作。其工作人员将包括开源社区代表和行业内部技术专家，并可外包部分评估工作给不断壮大的 AI 安全研究组织，让它们专注于特定风险领域。
各方评价与落地前景
Hassabis 认为该方案的优势在于："技术导向，同时支持创新、激励负责任行为。它被设计为能够跟上领域加速发展的步伐，并在最大风险被识别时灵活适应；如果形势需要，还能进一步收紧。" 目前，这一提案仍停留在呼吁层面，尚未形成具体立法或行政流程。其实际推进速度将取决于行业响应意愿与监督&管理层的政治意向。
评论