近期,Anthropic推出的Mythos成为安全行业关注的焦点,OpenAI也在持续推进GPT-Cyber等网络安全专项模型能力的发展,这类前沿AI技术正在传递一个清晰信号:漏洞发现、代码审计、攻击验证、修复辅助等过去高度依赖少数专家的安全任务,正在加速被模型化、自动化和规模化承载。网络安全正在进入一个由AI深度参与、持续重塑攻防能力的新阶段。
虽然某一个模型不会立即改变整个网络空间的攻防格局,但却意味着一个更加深刻的变化正在发生:攻防节奏正在加速,能力边界正在重构,攻防双方获取高级安全能力的门槛正在降低,能力扩散的速度正在加快,安全行业长期形成的能力结构也正在发生变化,安全运营所依赖的方法体系也正在面临新的挑战。
与此同时,AI正在以前所未有的速度进入企业生产体系。几乎所有的政企单位都在积极推进“AI+”战略。智能体开始进入客服、研发、运营,甚至核心生产流程。AI正在从一项独立的先进技术,变成全面渗透、深度融合并重塑各行各业的核心驱动力。
然而,当大家忙着让AI干活的时候,一个问题被悄悄留在了原地:业务已经迈进AI时代,安全运营却还停在上一个时代。
一边是攻击者开始借助AI提升攻击效率,缩短攻击准备周期,扩大攻击规模,并利用提示词注入、工具投毒、智能体滥用等新型攻击方式不断突破传统防线;另一边, 许多防守方安全运营中心仍然依赖规则匹配、人工研判和工具堆叠来开展工作,分析师每天面对海量告警疲于应对,安全能力增长速度远远跟不上威胁演进速度。
这种能力增长与防御体系升级之间的错位,正在成为政企单位在AI时代最现实的安全焦虑,而Anthropic公司推出Mythos后,这种焦虑被无限放大了。
360认为,面对等新一代安全能力带来的攻防变革,答案不是再买一个工具、再上一个模型,而是:安全运营本身,需要被AI重新构建一遍。
在近日的华为云创想者大会上,360数字安全集团副总裁余凯系统地讲了这件事。我们把其中政企客户最关心的几个问题,提炼出来。
问题一:告警太多、人手太少,AI能不能帮我们“先看一眼”?
能,而且“先看见”正是AI最该先发力的地方。
Mythos所代表的能力跃迁,首先改变的是速度和规模。攻击链条可以被更快分析、更多步骤可以被自动推进,防守方如果仍然依靠人从海量告警中逐条筛选,就很难维持对等的发现效率。
安全运营最难的一步,往往不是怎么处置,而是能不能在海量噪声里真正发现危险。过去数据散落在各个模块,分析师要来回跳转;单点告警容易看到,但跨阶段、跨资产、跨攻击链的完整风险,却很难被还原出来。等到拼出全貌,攻击可能早已得手。
360的思路,是让安全智能体先把这一关扛下来。一方面结合告警、资产、终端、网络、情报等多源信息,发现规则没有提前写出来的异常模式;另一方面,它能先做自动化降噪和分流,结合业务属性剔除误报,把真正值得专家关注的少数线索挑出来,并提供端侧、网络侧融合的深度溯源能力。
这不是用AI替代安全专家,而是把专家从大量重复、低价值的噪声里解放出来,去盯那些真正复杂、真正未知的威胁。说到底,重塑“看见”,就是让企业既能更快看到“已知的未知”,也更有机会发现“未知的未知”。
问题二:模型很聪明,可它能不能稳定、合规地把活干完?
这是政企客户最担心、也最容易被忽视的一点。
一个模型能想出好思路,不等于它能稳定地干成活。尤其在安全这种几乎不允许出错的场景里,一次越权操作、一个幻觉结论,代价都可能很大。从Prompt到Context再到Harness工程,本质上是AI从“能对话”,到“会干活”,再到稳定执行的演进。而政企业务需要的,恰恰是最后那个稳定执行。
360的回答是“平台即Harness”。如果说模型是智能体的大脑,那么承载它运行的工程平台,就是智能体的“操作系统”——负责管好工具、看住权限、组织任务流程,并在模型出现偏差时及时校验和兜底。
正如余凯所说:“Model决定能力上限,Harness决定能力底线。上限让智能体更聪明,底线让智能体真正可用。”在安全这种必须7×24小时连轴作战、几乎不允许出错的场景里,底线往往比上限更能决定成败。
对客户而言,这意味着你最终拿到的不是一个会聊天的demo,而是一个能在清晰边界内调用能力、推进任务、交付结果的执行单元。
问题三:通用大模型那么强,为什么还要专门的安全模型?
通用大模型的迭代证明了技术方向,却不能直接替代政企安全运营所需要的专业能力和工程条件。
因为安全是一个低容错、强专业、还必须懂业务的场景,同时安全场景需要高性价比的AI方案。
同样一个访问行为,在不同业务、不同时段、不同资产等级下,风险判断可能完全不同。安全能力要能理解业务上下文,而不是简单地一刀切阻断。所以企业真正需要的,不是一个“什么都懂”的通用模型,而是一个懂安全数据、懂安全任务、懂业务边界,并且能够持续进化的模型。
360的做法是“以模治模”——用模型来治理模型。把多年实战中沉淀下来的攻击行为、威胁模式和处置经验,转化为高知识密度的训练语料,训练出比肩万亿通用模型能效的专用的垂域安全大模型。对安全来说,决定效果的从来不是简单堆数据量,而是数据里有没有真正的攻击行为、威胁模式和处置经验。这才是一个模型“懂不懂安全”的根本。
问题四:智能体权限越来越大,谁来保证它自己不出事?
这正是AI时代新增的一道安全命题。
传统计算机安全的基础,是区分“谁是指令、谁是数据”,而且边界相对清晰。但在智能体里,会把来自网页、邮件、文档、插件返回值等外部信息直接纳入决策上下文,并可能影响后续的调用与执行。当智能体同时具备接触不可信输入、拥有敏感数据权限、能对外执行操作这三个条件,攻击者哪怕只在网页里埋一段隐藏文字,就可能借智能体的合法权限去执行危险操作。
换句话说,当智能体不再只是聊天,而是能调用工具、读取数据、修改配置、触发流程,它自身就成了新的风险点。仅靠模型“自律”远远不够,必须在工程上建立边界。
360把智能体安全归纳为四个治理目标:向善、安全、可信、可控——内容交互要合规向善,系统与生态链要无漏洞,输出结论要有据可信,工具调用要全程可控。核心原则只有一条:智能体可以越来越有能力,但每一种能力,都必须有权限、有监测、有阻断、有追溯。
四个问题背后,是同一件事:安全运营进入系统重构阶段。
把前面四个问题放在一起看,360对AI时代安全运营的思考,可以概括为一套清晰的“1-2-3-4”。
1个核心,是AI安全运营。它要解决的并不是单纯给原有安全工具增加AI功能,而是将AI带来的技术新势能转化为安全运营新效能,再以更强的安全效能保障AI应用规模化发展。
2条主线,是优质模型与优质平台。优质模型负责“以模治模”,决定智能能力的上限,将模型算力转化为安全团队的实战能力;优质平台承载Harness工程,决定智能体运行的底线,让模型能够在清晰的权限、流程和策略边界内,更稳定、更可控、更可预期地完成任务。
3维重塑,是以安全智能体增效。围绕“看见、处置、知识”,安全智能体不再只是向分析师提供一个新的工具,而是逐步承担告警研判、任务编排、协同处置和经验沉淀,把安全建设从交付工具转向交付可持续运营的成果。
4大目标,是为智能体安全护航。围绕“向善、安全、可信、可控”,对智能体的内容交互、系统环境、输出结论和执行行为建立安全边界,使每一种能力都有权限、有监测、有阻断、有审计,将智能体风险纳入可治理范围。
这套体系的核心,是同时完成两件事:一方面,以安全智能体提升安全运营效率;另一方面,以智能体安全保障AI可靠进入业务流程。
前者解决AI时代“如何把安全做得更好”,后者解决“如何让AI自身安全地发挥价值”。两者协同,才能让AI真正成为政企安全运营的新动能,而不是新的风险源。
那么,这套体系到底好不好用?
判断标准其实很朴素。在与一家大型银行的合作中,客户最初关心的是安全智能体“准不准”,但真正进入日常运营后,他们提出了一个更高的要求:不仅要“准”,更要“懂我”,要能听懂这家银行自己的业务规则、风险标准和运营习惯。
从“技术尝鲜”到“业务实用”,从“看它准不准”到“它懂不懂我”——客户关注点的这个转变,恰恰是AI安全运营真正落地的标志。目前,360AI安全运营体系,已经在金融、政务、国央企、运营商、汽车交通、医疗教育等多个行业落地实践,服务超100家中国500强企业,覆盖3000余万终端。
Mythos只是节点,真正的挑战是能力持续跃迁
从Mythos到GPT-Cyber,真正值得关注的不是某一个模型之间孰强孰弱,而是一个新的技术变量正在进入安全专业腹地:越来越多复杂安全任务,开始由模型持续承载,并以更高速度、更大规模进入真实攻防。
Mythos只是阶段性节点。今天行业关注的是漏洞研究和代码安全,明天还会有更多安全任务被模型化。面对这种持续变化,政企单位真正需要做的,不是追逐每一次模型发布,而是建设一套能够随技术共同演进的安全运营体系。
以安全智能体增效,以智能体安全护航;让模型能力和工程底线一起进入日常运营,才是政企把AI生产力转化为可持续业务价值的前提。
360数字安全 |
|
|
|
|
|
评论
直达楼层