返回顶部
返回首页 会员充值 我的足迹 返回上一页
具身智能
情绪经济
商业航天
十五五
银发经济

AI执行风险趋势

Gartner预测,到2028年平均一家Global Fortune 500企业可能使用超过15万个Agent。当Agent从几个增长到几万个,当Skill从功能插件变成供应链入口,AI安全的风险形态正在发生根本性变化。360 AI安全研究院发布的《智能体安全新范式》报告,基于约5万个公开Skill样本检测,识别出十大高风险Skill类型,并预测了AI执行风险的四大趋势:身份治理纳入零信任、Skill安全成供应链新战场、全生命周期治理、AI对AI防御成为基础能力。

AI执行风险的核心驱动力

智能体规模化部署带来攻击面扩张

Gartner提出AI Agent Sprawl问题,指出到2028年平均一家Global Fortune 500企业可能使用超过15万个Agent,但同时只有较少比例的组织认为自己具备合适的AI Agent治理能力。与此同时,智能体的权限范围也在持续扩展:从读取数据到修改数据,从内部操作到跨系统协调,从辅助建议到自主执行。

部署速度超过安全建设速度,意味着大量企业正在将拥有真实权限的AI系统接入生产环境,却尚未建立与之匹配的安全治理体系。200万+AI相关资产暴露于公网侧,近40个智能体相关漏洞被发现——这些数据共同指向一个趋势:AI执行风险的攻击面正在快速扩张。

Skill正在成为系统性风险入口

Skill(技能)作为智能体调用外部工具、连接业务系统的重要组件,本质上已成为Agent能力链条的一部分。一旦Skill存在安全隐患,风险不仅停留在单个插件层面,还可能扩散到企业账号体系、数据资产、业务流程及合规管理。

报告基于约5万个公开Skill样本检测,识别出十大高风险Skill类型:数据外泄、凭证/密钥窃取、资产转移/盗用、恶意扣费/诱导付费、违规内容导流、隐蔽外联、远程下载执行、提示词/指令投毒、商业推广/刷单/黑灰产导流、持久化/后门控制。

典型案例:OpenClaw Email Skill硬编码第三方Gmail发送账号,业务或员工调用该技能时通过公用外部邮箱代发邮件,易造成邮件业务数据、客户敏感信息外泄,同时可被滥用冒用企业身份批量传播钓鱼邮件。

AI执行风险的四大趋势

趋势一——Agent身份治理纳入企业零信任体系

随着Agent在企业中的规模化部署,Agent将不再只是应用系统中的一个功能模块,而会成为能够代表用户或系统执行任务的新型数字主体。企业零信任体系需要从“人和设备”扩展到“人、设备和Agent”,为每个Agent建立独立身份、权限边界和行为基线。未来,Agent身份治理将从可选项变成基础能力。

趋势二——Skill/MCP/工具链安全成为供应链安全新战场

Agent的能力来自工具调用。随着Skill、MCP服务、第三方工具大量接入企业环境,Agent安全风险将从模型本体扩展到工具链和供应链。未来企业不仅要审核Agent本身,还要建立Skill准入、工具白名单、MCP服务检测、返回值校验和运行审计机制。Skill安全治理将逐步从单点检测走向全生命周期管理。

趋势三——从模型防护走向全生命周期治理

过去AI安全更多关注模型输出、内容审核和提示词防护。智能体时代,安全治理对象将扩展为身份、工具、数据、记忆、行为和运行环境。未来企业部署Agent,不仅要在上线前做风险评估和红队测试,也要在运行中持续监测工具调用、数据访问和行为轨迹,并在事后形成日志追溯、原因分析和策略更新。

趋势四——AI对AI防御成为智能体安全运营的基础能力

当攻击者开始利用AI Agent进行自动化探测、提示词注入、工具投毒和攻击链编排时,防守方仅靠人工响应将难以跟上风险变化速度。未来,“以模治模”将从漏洞发现扩展到Agent运行治理、Skill检测、行为审计、告警研判和自动响应。安全智能体将成为企业智能体安全运营的重要组成部分。

企业如何应对AI执行风险

ASM成熟度模型与建设路线图

报告提出了ASM五阶段演进路径:L1无感使用→L2工具管控→L3行为审计→L4风险控制→L5智能防御。建设路线图分四个阶段:1-3个月完成资产盘点与基础管控;3-6个月部署审计体系;6-12个月引入策略引擎;12个月以上建设智能防御体系。

六大必答题

报告提出企业部署Agent必须回答六个问题:它代表谁执行?它能调用什么工具?它能读取什么数据?它会记住什么信息?它实际做了什么动作?出了问题能不能追溯和回滚?如果这六个问题没有答案,智能体就不是企业生产力,而是企业新的高权限风险源。

先安全,后自治

报告的核心结论可以概括为一句话:没有边界的自治是风险,有边界的自治才是生产力。智能体安全的关键,不是让Agent少做事,而是让Agent在可信边界内做正确的事。

未来企业竞争的关键,不只是能否部署智能体,而是能否部署安全、可信、可审计、可治理的智能体体系。未来企业是否能规模化部署Agent,不只取决于模型能力,而取决于是否建立可信、可控、可审计、可回滚的安全底座。
点击阅读报告原文: 360数字安全:2026智能体安全新范式报告-当AI有了“手和脚”企业安全边界必须重建(49页)
相关报告