周鸿祎接受新华社《瞭望》专访：破局智能体安全挑战

         
近日，围绕智能体带来的安全挑战与治理路径，360集团创始人周鸿祎接受新华社主管主办的《瞭望》新闻周刊专访，相关报道刊发于《瞭望》第44期。

2026年，AI正从被动执行指令的工具“进化”为能自主调用工具、闭环完成复杂任务的智能体，技术红利与新型风险同步放大。专访中，周鸿祎介绍了360集团“以模治模”的思路：用安全大模型和安全智能体分析行为日志、预判失控风险。他表示，开源是解决安全问题的最好手段。中国活跃的开源大模型生态，让企业能够私有化部署、让更多人享受技术红利；中国企业应在此基础上融入安全治理能力，通过提交安全方案、参与国际标准制定和推出新产品，参与全球人工智能安全治理。



以下为对话全文。

让安全的最后一道闸掌握在人类手中   

《瞭望》：

当个人拥有多个智能体后，网络安全攻防形势会发生什么变化？

周鸿祎：

AI 已重塑网络安全的游戏规则。过去漏洞很难被发现，因此攻击频率较低，攻防能勉强维持平衡。但现在智能体可以批量、自动化、低成本、快速发现漏洞，如果没有具备对等能力的智能体基础设施，信息系统将处处是漏洞、处处可攻击，面临更大威胁。



现在，对编程一无所知的人在智能体帮助下也可以对信息系统发动攻击。黑客智能体可以批量自我复制，甚至相互“交流经验”。常规人力防御不足以应对这种情况。政府、企业、基础设施引入智能体后，由智能体操纵业务系统，有可能产生新的安全风险。



发展要与安全双轮驱动。安全要面向未来，具有前瞻性，如果等事故发生后再做补救，这样的盾难以防御别人的矛。

《瞭望》：

怎么做才能让安全的最后一道闸掌握在人类手中？   

周鸿祎：

智能体越聪明，越不可控、越具有不确定性，它会产生自己的“想法”，此时就需要“以模治模”，即搜集智能体的行为日志、推理日志，打造另一个安全大模型和安全智能体对此进行分析、判断，对它可能的失控行为预判。安全大模型和安全智能体会向人类报告上述预判，由人进行最终决策。人类必须保留最终判断权、监督权与干预权，确保 AI 始终处于人类控制之下。   

在开源大模型技术基础上融入安全治理的能力   

《瞭望》：

在人工智能安全治理上，你认为需要强调的原则是什么？   

周鸿祎：

面对 AI 可能引发的安全问题，一些美国 AI 巨头掌握先发优势，多次以安全为由，要求停止 AI 开发，这背后可能主要有两个原因：一是他们掌握了核心技术，不希望别人也掌握此类技术；二是中国开源人工智能的发展带来了技术普惠，有可能推动实现对美反超，这是他们不希望看到的。



我认为开源是解决安全问题的最好手段。当技术掌握在少数人手中时，如果这部分人拒绝解决安全问题，会带来隐患。防范智能体带来的社会风险，不是把模型“锁”起来，而要强调以人为本、智能向善，安全与普惠并重。

《瞭望》：

在全球人工智能安全治理上，中国企业可以发挥什么样的作用？   

周鸿祎：

中国已形成较为活跃的开源大模型生态，帮助企业、组织实现 AI 私有化部署、安装与使用，让大多数人享受到科技进步所带来的红利。在开源大模型技术基础上融入安全治理能力，这将提升我国的全球影响力。



中国企业应积极向国际组织提交解决大模型和智能体安全的方案，参与制定国际标准，并不断提供新产品来解决安全问题。中国特别重视人工智能安全与治理问题，在这种理念的指引下，中国企业有望在全球人工智能安全治理上走在世界前列。

人类需要开拓“硅基领导力”   

《瞭望》：

你对 AI 行业发展进行的预判，哪些正在得到验证？   

周鸿祎：

我们对两方面的预判比较有前瞻性：一是智能体成为 AI 落地主角，智能体应用走进千行百业，深入生产和业务系统，行业竞争焦点从参数比拼转向落地能力比拼。二是推理算力需求爆发，人们使用智能体完成复杂行业任务或需求时，需要多次调用大模型进行推理，算力消耗巨大，推理算力使用规模、增速全面超越大模型训练所需算力。   

《瞭望》：

360 集团从年初就开始智能体实战练兵，成效如何？   

周鸿祎：

我们全员用 AI、训练智能体。我们最初没意识到 AI 是重构组织的契机，公司的工作流程和岗位定义仍沿用 AI 出现前的逻辑，个人业务处理效率或能因使用 AI 提高 30% 至 50%，但组织整体工作效率没有显著提升。此外，早期一些尝试把 Token 消耗量当作使用活跃度的参考，浪费了很多算力。



整体训练过程我们收获很多。全员通过实战练兵完成对 AI 的实操培训，并总结出一条重要经验：企业引入 AI 时，不应设想用 AI 处理所有业务，而应挑选适合用 AI 改造的业务试点。我们选了两个业务：一是安全业务，360 安全防御系统每天会发现和抵御大量网络攻击，使用智能体可以帮助安全专家应对上述挑战；二是产品研发，使用我们打造的守规矩、守纪律、能保持确定性的智能体体系，一个 10 人小队用三周时间开发了过去 100 人团队需半年才能生产的产品，并实现了编码、测试、交付流程的全自动化。



过去我们认为 AI 会淘汰程序员。实践后，我们发现程序员依然重要，其主要精力从写代码和做测试这类重复性工作中，转而从事两类新工作：一是给 AI 提要求；二是给 AI 的成果定标准。能转型的程序员不仅不会被淘汰，还会在与 AI 协作过程中成长为“超级个体”。



从“超级个体”到“超级组织”，关键不是提升单点效率，而在于对岗位定位与业务流程进行系统性重构。通过压缩冗余环节、打造高效闭环，使 AI 深度嵌入全流程运作，人员仅承担指令下达与结果验收职能，释放 AI 对组织整体运行效率的提升效能。



360黑板报