《前沿人工智能安全与治理2026：风险认知与协同治理》正式发布，360集团参...

11月3日，世界互联网大会人工智能专业委员会安全与治理推进计划正式发布《前沿人工智能安全与治理2026：风险认知与协同治理》（以下简称《报告》）。360集团作为主要贡献单位，围绕大模型与智能体的运行风险与安全治理提供研究成果和产业实践参考，为前沿人工智能风险研判与协同治理贡献经验。
《报告》聚焦2026年前沿人工智能的能力突破与风险演进，指出前沿人工智能正由单项能力突破转向模型、工具与环境协同的系统跃升，相关风险也由单点、局部问题演变为跨场景、跨主体、跨边界的系统性挑战。《报告》同时评估了24个国家的治理就绪情况，并就协同应对提出建议。360集团《大模型安全白皮书》作为大模型风险判断与技术方案案例被《报告》引用。该白皮书系统梳理了人工智能五类运行风险，并提出了“外筑‘以模治模’动态屏障，内固‘平台原生’安全底座”的防护思路。
作为国内兼具人工智能与安全能力的企业，360集团依托安全大数据积累与安全大模型，以“以模治模”理念构建全栈人工智能安全治理体系：以图龙锋、仪天阵打造“主动发现+自动防御”网络攻防安全系统，并构筑大模型安全和智能体安全两道防线。在这一体系下，针对智能体的部署与运行安全，360推出智能体安全防护与管理系统，覆盖智能体资产发现、行为管控、威胁检测、事件响应和损失恢复等关键环节，可对智能体、技能插件及模型链路进行识别与管理，并围绕文件访问、网络连接、命令执行等行为实施运行时管控。结合“探针+私有化360安全大模型+安全情报”技术，发现提示注入、恶意技能等安全风险，同时支持风险事件回溯与文件备份恢复，推动智能体环境从“看得见”走向“管得住、可追溯、能恢复”。
此次为《报告》贡献研究与实践经验，是360参与人工智能安全治理的一项具体行动。未来，360将持续围绕大模型和智能体运行中的实际风险开展技术研究与产业协作，为人工智能的安全可控发展贡献力量。

上游新闻