黄仁勋：AI安全是工程问题，不是法律问题
英伟达创始人兼 CEO 黄仁勋（Jensen Huang）在 9 月 16 日举行的 Salesforce Dreamforce 大会上，明确表达了对 AI 风险的立场。在他看来，AI 并非 OpenAI 安全研究人员所描述的某种"外星思维"，而是由人类构建的硬件与软件，因此可以被人类和现有法律约束。
"安全是工程问题，不是法律问题"
黄仁勋在大会上表示：
"安全是一个工程问题，而不是法律问题。我们开发的是软件，是计算系统——尽管它很复杂，但归根结底还是一套计算系统。"
基于这一判断，他认为 AI 领域无需新法律或新监督&管理，市场本身的压力就足以促使企业不发布不安全的产品。他以产品发布逻辑为例：
"如果企业对产品的功能、能力或安全性缺乏信心，最明智的选择是不发布，这一点对企业而言显而易见。在市场压力下，企业会自行调整节奏，确保发布的产品能够获得市场认可。市场力量已经存在，不需要新法律，不需要新监督&管理——企业只需要决定自己该跑多快。创新、速度和安全产品之间并非对立选择，三者可以兼得。"
"天空无上限"：商业野心与监督&管理诉求的矛盾
黄仁勋在大会期间还表达了极为强劲的商业雄心：
"我比以往任何时候都更有野心。凭借我们的雄心，以及 AI 带来的生产力提升，天空才是我们的极限——对公司如此，对每个行业、每个国家亦然。"
这一表态与他反对监督&管理的立场形成了有趣对照。毕竟，英伟达是本轮 AI 浪潮中受益最大的企业之一，若引入新的监督&管理框架，很可能为这家芯片巨头的扩张速度增添变数。
然而，商业利益之外的事实同样不容忽视：即便是出于善意的企业，也难免发布存在缺陷的产品并产生意外后果。2024 年 CrowdStrike 蓝屏事件导致数千架航班停飞；Meta 刚因社交媒体对青少年危害支付了 180 亿美元和解金。AI 领域也已出现实际伤害案例：OpenAI 模型曾被曝入侵 Hugging Face 平台，相关诉讼还涉及青少年因与聊天机器人长时间对话后自杀的案件。
行业自我监督&管理的窗口期正在收窄
黄仁勋此番表态的前提，是假设现有产品责任法律足以覆盖 AI 风险。但若 AI 在相关案件通过法院审理之前就造成灾难性后果，这一假设将难以验证。
他本人也未讨论另一条正在成形的路径——行业自我监督&管理。黄仁勋的策略更多是倡导开源权重模型，以对抗闭源 AI 实验室的竞争优势。但微软 CEO 萨蒂亚·纳德拉（Satya Nadella）周一在 All-In 峰会上提出了不同视角，认为即便是中国 AI 实验室，也应深刻认识到安全风险的普遍性。
当前行业仍有一段窗口期，可供推动自我监督&管理机制的形成，并说服全球 AI 实验室（包括中国）参与其中。一旦窗口关闭，监督&管理主动权可能就不在企业手中了。
评论