近日,360智能体安全管理与防护系统正式通过公安部第三研究所检测认证,获得增强级“人工智能安全态势管理系统认证证书”,成为国内首个获此认证的人工智能安全产品。此前,该系统已入选IDC《中国智能体威胁检测技术评估,2026》报告并获首位推荐。
当前,大模型正从"对话工具"加速向"自主行动体"演进。智能体高度依赖插件、技能、MCP服务和多轮交互链路,一旦插件被污染或权限被滥用,可能引发数据泄露、业务误操作等连锁风险。传统安全手段难以深入智能体内部执行逻辑,"看不透、防不住"成为行业共性难题。
本次认证检测工作由国家网络与信息系统安全产品质量检验检测中心依据 TRIMPS-JSGF-PW038:2026《产品技术规范 人工智能安全态势管理系统》(增强级)开展,是公安部第三研究所认证中心继大模型安全防护围栏、大模型安全评估系统后,推出的又一项人工智能安全产品核心权威认证服务。该类产品技术规范内容包括攻击行为风险采集、访问行为风险采集、输出内容风险采集、MCP风险采集、风险管理、安全态势实时展示、安全态势统计展示、安全态势管理结果分析处理等要求。
此次通过认证的360智能体安全管理与防护系统,以探针技术为核心,将安全能力深入智能体运行过程内部,细化到“Skill技能级”颗粒度。通俗来说,就是给智能体装上"行车记录仪"和"安全刹车"。资产层面,系统可实时监测每一个Skill技能的装载、升级与异常变更。同时,采用规则引擎和AI语义分析双引擎机制,对全量技能清单进行交叉验证,将智能体资产风险从"黑盒不可见"变为逐项可观测、可检测;运行层面,系统围绕“访问-网络-交互”构建三维防御,覆盖越权调用、异常外联、提示词注入等70余类风险行为;检测机制前置于探针端侧完成,仅上报有效威胁,降低响应延迟。
此次首颁认证是智能体安全正从企业自建、厂商自证阶段,进入权威检测认证和标准化治理的新阶段,360以探针驱动的技术路线为处于起步阶段的智能体安全行业提供了可参考的工程化样本。
360数字安全 |
|
|
|
|
|
评论
直达楼层