AI 工具狂飙入企业:安全风险正在" vibe – coded"应用中爆发

内容管家 AI领域评论11字数 803阅读2分40秒阅读模式
AI 工具狂飙入企业:安全风险正在" vibe - coded"应用中爆发

AI 工具狂飙入企业:安全风险正在" vibe-coded"应用中爆发

企业争相引入 AI 工具的速度已经让安全团队措手不及。Pluto Security CEO Shahar Bahat 透露,一款新发布的 AI 工具平均只需两小时就能出现在企业环境中。而在她公司检测到的风险中,约 60% 来自非开发者" vibe-coded"(凭感觉用 AI 开发)的应用——其中财务部门是最大风险来源,其次是市场和法务团队,开发者排第四。

一个典型案例:Pluto 在一家《财富》500 强企业发现,财务员工用 AI 构建了一款用于管理客户信息和流失分析的应用,但该应用直接暴露在公网上。

核心变化:Pluto Security 获 4200 万美元融资,主打实时 Agent 行为监控

Pluto Security 近日正式走出隐匿模式,宣布获得 4200 万美元融资,其中种子轮 850 万美元(TLV Partners 领投,Auris 创始人参投),A 轮 3400 万美元(Jump Capital 领投,Check Point 联合创始人 Shlomo Kramer 的风险投资基金 Skinos 参投)。

公司自 2025 年 4 月开始商业化,至今已实现 200 万美元 ARR,拥有超过 30 家企业客户,包括 Oscar Health、Workato、Sixt 和 AlphaSense。

Pluto 的核心判断是:安全工具需要从"监控用户行为"转向"监控 Agent 行为"。其产品可对接端点安全与设备管理系统,采集提示词、命令、运行进程、权限和用户历史活动,在端点侧用轻量模型评估 Agent 意图,并在 Agent 运行时直接干预——例如当 Agent 试图越权时,系统可以阻断操作或注入确认指令。

此外,Pluto 在今年 4 月推出了免费平台 Plutonium,任何人都可以查询公开 AI 技能、连接器和插件的风险信息,还提供 MCP 扫描器和可信组件目录。Bahat 称已有数千名安全专业人员使用 Plutonium,该平台已成为公司销售线索的重要来源,目前 70% 的 pipeline 来自主动咨询。

影响与建议:企业 AI 安全盲区不容忽视

Bahat 提到,在所有概念验证(POC)项目中,没有一个未发现恶意内容,部分甚至在 POC 期间遭遇了真实攻击。

对于企业安全团队而言,以下几点值得重点关注:

  • 盲区分布:非技术部门的 AI 使用已成主要风险源,财务、法务等职能部门不容忽视
  • 攻击面扩大:MCP 服务器、扩展包、技能(Skills)等组件正成为新型攻击入口
  • 实时干预能力:传统安全工具侧重事后审计,而 Agent 时代需要会话内的实时阻断与修正能力
  • 免费自查入口:企业可利用 Plutonium 等平台主动审计已部署的 AI 组件风险

Pluto 计划将本轮融资用于产品研发、安全研究扩展及美国市场团队建设,目前在以色列和美国共有 40 名员工。

延伸阅读

 
内容管家

发表评论