本帖最后由 飞机飞行 于 2026-7-10 10:58 编辑
近日,多家头部大模型平台相继宣布将于7月15日关停用户自建智能体功能,同日《人工智能拟人化互动服务管理暂行办法》将正式施行。一个清晰信号正在出现:智能体正告别低门槛、弱治理的早期阶段,进入合规更明确、安全更前置的新阶段。
在此背景下,360集团正式发布业内首份《企业智能体安全运营指南》白皮书,结合360自身AI Native转型和安全运营实战经验,系统回答了一个现实问题:当企业全面拥抱智能体,安全运营到底应该如何升级。
对企业而言,智能体的价值正从个人娱乐加速转向企业级任务场景,但不敢用、不会用成为最普遍的痛点。白皮书指出,智能体不是普通AI工具,而是数字员工,它能拆解任务、读取数据、调用工具、推动流程,具备类似员工的能力。员工入职需要身份、权限和审计,智能体进入企业也应如此。否则企业用的智能体越多,风险越难控制。白皮书将风险归纳为四类:看不见、控不住、管不好、追不回。
基于360内部实践,白皮书提出了一套企业可复制的方法论:看见风险、管住行为、协同提效。
看见风险,即先摸清企业内有哪些智能体在运行、接触什么数据、调用什么工具,其中影子智能体是数据泄露和权限失控的最大隐患。
管住行为,即让每个智能体拥有身份、权限边界和审计记录,在可控范围内运行,同时覆盖输入侧、运行时和输出侧的全链路监测,确保异常行为可发现、可阻断、可追溯。
协同提效则是关键落点,安全运营从人找工具升级为任务驱动的多智能体协同,研判、处置、溯源、报告等环节由专业智能体分工协作,将传统小时级响应压缩到分钟级闭环。
同时,360将上述实践沉淀为可交付的产品能力:自主安全运营智能体“仪天阵”,帮助安全团队从人工值守向自动化、智能化运营演进;智能体安全运营管理平台“AI安全卫士”,围绕事前可见可评、事中可判可控、事后可溯可审形成闭环。前者解决怎么用智能体提升安全运营效率,后者解决怎么管住企业里的智能体风险,共同构成智能体安全运营的完整闭环。
此次360发布首份企业智能体安全运营指南,正值《办法》落地之际,为企业提供了一套可理解、可落地、可复制的方法框架,帮助企业不只是“用上智能体”,更能在合规前提下安全、可控地用好智能体。
来源 360数字安全
|
|
|
|
|
|
评论
直达楼层