本帖最后由 飞机飞行 于 2026-7-3 14:24 编辑
近日,权威咨询机构数说安全正式发布《AI安全产业研究报告2026》,围绕企业级AI安全的防御能力展开深度的多维实测。360凭借在智能体安全领域的体系化布局、产品矩阵能力与落地实践,位列厂商推荐首位,成为国内企业级智能体安全体系化落地标杆样本。
01
Agent安全成企业“刚需”
报告提出核心产业判断:AI安全防护重心已发生根本性转移,防护主战场从管控模型“说错话”,升级为防范智能体“做错事”。
当前,智能体全面融入企业办公、研发、生产场景,不再局限于问答交互,能够自主调用工具、读取数据库、操作系统并执行业务操作。风险边界随之扩大,一旦智能体遭指令劫持或受模型幻觉影响,会直接造成数据泄露、业务故障、资金损失等不可逆后果。同时报告明确,智能体作为区别于人类、传统机器账号的第三类身份,影子智能体治理、智能体网关、AI 风险韧性是现阶段政企安全建设三大必备能力。
针对行业普遍防护短板,360进一步拆解风险根源:智能体风险的本质来自于其不确定性。一方面,攻击者能把恶意指令隐藏在文档、对话、工单等各类上下文中间接诱导 AI;另一方面,大模型依靠统计推理,天然存在幻觉、误判问题,一旦搭配操作权限,微小偏差会演变为实质性业务风险。仅靠输入输出过滤的简易护栏,无法覆盖AI从思考、决策到执行的完整链路,企业亟需一套统一、全链路的智能体安全控制框架。
02
独创三控制域长效治理架构
结合行业风险特征,360创新推出“决策控制—执行控制—外部依赖控制”三层控制域架构,跳出跟随各类AI组件迭代的被动防护思路,围绕“怎么想、怎么做、依靠什么”三大稳定维度实现长效治理:
决策控制域,管AI怎么想:通过输入研判、意图识别、上下文校验与决策约束,在语义层面构建防护屏障,从源头防止智能体被恶意诱导或指令劫持;
执行控制域,管AI做什么:对工具调用、高危指令、敏感访问实施精准管控,确保智能体行动边界清晰可控;
外部依赖控制域,管AI靠什么:统一管理模型、知识库、接口等外部组件,覆盖供应链漏洞识别、Skill风险评估与MCP风险扫描,从底层依赖侧堵住隐蔽风险。
360智能体安全业务相关负责人介绍,这套架构通用性极强,企业无论更换大模型、迭代智能开发工具,都无需重构安全体系,可大幅降低长期安全建设成本。
03
全生命周期纵深防御产品体系
围绕三大控制域,360推出AI安全卫士产品系列,形成 “事前排查、事中拦截、事后溯源、持续运营”完整闭环,覆盖智能体全生命周期安全需求:
AI安全检测系统解决上线前看不清的问题——帮助企业摸清智能体资产底数,提前发现漏洞和风险隐患,确保上线前安全可控。
AI安全防护系统解决运行时拦不住的问题——对智能体的输入输出、工具调用、数据流转进行实时监控,一旦发现异常行为立即拦截处置。
AI主机安全系统解决端侧管不到的问题——保护智能体运行环境和底层算力节点的安全,防止攻击者从端侧突破防线。
AI安全运营管理系统解决事后查不清的问题——汇聚全链路安全数据,实现统一运营闭环,支持事件溯源、审计追踪和持续加固。
报告指出,当前企业普遍存在智能体多厂商、多框架并行部署的现状,对比互联网厂商只能适配自家平台的内置防护方案,360 AI安全卫士产品系列更适配多厂商混合部署、多框架异构、私有化部署等复杂企业环境,可实现全域智能体集中治理。
此外,这套AI安全矩阵经过360内部海量AI业务长期打磨,依托自有3000P算力、15万+内部智能体、日均3000亿Token的运行场景完成实战校验,核心指标表现突出:智能资产自动覆盖率95%以上、风险识别准确率90%、高危动作自动处置率95%,安全事件溯源效率提升70%。
报告认为,智能体安全行业正式告别零散工具迭代阶段,迈入稳定框架长效治理新时期。未来,360将持续深耕智能体安全赛道,联合行业伙伴共建AI安全标准与产业生态,为各行业提供可落地、可验证的全链路智能体安全解决方案。、
来源 360数字安全 |
|
|
|
|
|
评论
直达楼层