养“安全虾”
在第九届数字中国建设峰会期间,由工业和信息化部主办、中国电子信息产业发展研究院承办的大数据技术创新分论坛成功举行。360数字安全集团副总裁余凯受邀参会,并围绕“大数据聚力·智能体涌现·安全运营跃升”主题,系统分享了AI时代网络安全产业的新趋势、新挑战与新范式,重点展示了360在AI for SOC(以AI赋能安全运营)和AI Security(以AI治理AI风险)领域的最新实践成果。
当前,人工智能已经从辅助工具升级为重构生产力的核心引擎。“人工智能+”行动持续推进的同时,安全也被正式纳入AI时代的重要基础设施。360认为,AI时代的新常态,是在拥抱技术变革、推动提质增效的同时,同步应对新型风险挑战,构建“发展与安全并重”的新体系。
AI驱动安全行业进入“智能体时代”
在全球安全产业加速AI原生化的背景下,AI Agent、AI for SOC、AI Security已经成为当前行业最受关注的三大方向。AI智能体正从辅助工具逐步演变为安全运营体系中的核心驱动力,推动安全行业从“人工运营”向“智能运营”升级。
与此同时,AI技术快速发展也正在重塑网络攻防格局。
一方面,AI能够帮助安全行业实现规模化威胁分析、自动化研判与运营提效;另一方面,攻击者同样开始借助AI实施更低门槛、更隐蔽、更智能化的攻击。全球已经出现由AI智能体主导的大规模网络攻击事件,仅需少量人工干预即可完成漏洞扫描、攻击链生成、横向移动与数据窃取等全流程操作。
此外,AI自身安全问题也在持续暴露,包括提示词注入、智能体失控、数据投毒、模型越狱、供应链投毒等新型风险不断出现。此前OpenClaw生态曾因恶意Skill投毒导致十余万智能体实例沦陷,进一步暴露出智能体生态面临的安全挑战。
余凯谈到,传统网络安全、数据安全正在全面演变为“AI网络安全”与“AI数据安全”,AI安全已经成为数字时代必须解决的新命题。
360推动安全运营迈向“自动驾驶”
面对AI时代不断升级的威胁挑战,360提出“AI+安全运营”体系,形成“本地安全大脑+安全大模型+大模型安全”的一体化架构,通过AI全面重塑安全运营能力。
在技术层面,360通过AI实现了对安全运营“三大能力”的重塑:
1
重塑“看见”能力
通过安全大模型泛化分析精准识别新型威胁;
2
重塑“处置”能力
通过智能体自动编排工具链与工作流,实现自动化响应;
3
重塑“知识”能力
沉淀专家经验与安全数据价值,构建智能化运营体系。
余凯表示,传统安全运营长期依赖规则驱动,但规则更新速度很难跟上AI时代威胁演化速度。未来安全运营需要从“Rule Driven”转向“Learning Driven”,依靠数据、模型与智能体能力实现动态学习与持续进化,最终推动安全运营从“辅助驾驶”迈向“自动驾驶”。
目前,360已经完成近百种安全智能体的产品化布局,覆盖从识别、防护、检测到响应验证的全流程闭环。在现场展示中,余凯重点演示了安全智能体的自动化研判能力:智能体能够自动分析上下文日志、关联历史攻击行为、交叉验证威胁情报,并最终生成攻击链路图与智能总结报告,大幅降低安全运营人员告警处理压力。
“以模治模”360构建AI时代全链路安全体系
除了AI赋能安全运营,360也在重点布局AI自身安全问题。
大模型与传统软件最大的区别,在于其具备“智能属性”,语言既是信息,也是指令。因此,AI的新安全问题,本质上需要依靠AI能力解决,“以模治模”已经成为AI安全的核心路径。
基于这一思路,360构建了覆盖AI大模型全生命周期的AI Security体系,围绕AI内容安全、基础安全、内部安全与智能体安全四大方向,形成“向善、安全、可信、可控”的完整安全框架。
基于“360大模型卫士”,能够对大模型输入输出、内容生成、行为调用等全链路进行安全防护,有效提升AI应用安全水平。在复杂提示词注入攻击场景演示中,未经防护的原生模型会输出高风险内容,而经过360安全护栏防护的大模型,则能够精准识别危险行为并拒绝生成违规回答。
随着AI加速进入产业深水区,行业对AI安全的需求也正在从“技术尝鲜”转向“业务实用”。可以肯定的是,AI的真正价值不在于单一模型能力,而在于能否真正融入安全运营体系,与数据、工具、流程、知识形成协同联动,推动安全能力实现质变。
本届数字中国建设峰会上,360还携安全智能体蜂群、安全龙虾、纳米AI流水线、大模型卫士等多项AI与安全融合成果亮相展区,集中展示了360在AI安全、智能体应用等相关探索。未来,360将持续推动大数据、安全大模型与智能体技术深度融合,为数字中国建设构筑更加坚实的AI安全底座。
360数字安全 |
|
|
|
|
|
评论
直达楼层