360潘剑锋：从通用大模型迈入安全大模型 为企业安全运营降本增效

本文转自公众号 安全419




今年以来，伴随ChatGPT的火爆，放眼全球，大模型技术及应用创新接踵而至，如知识查询、文案创作、代码补全、数据分析等等，用一次次令人惊喜甚至震撼的效果展现出强大的能力，有望成为千行百业从数字化走向智能化的生产力工具。



安全419由此也关注到，刚刚在北京落下帷幕的ISC 2023第十一届互联网安全大会，正是由认知型通用大模型——360智脑提供支持，首次采用了“AI+”协同办会模式，打造出集行业前瞻对话、高峰技术研讨、安全成果展示于一体的全球首场AI数字安全峰会。

ISC 2023开幕式，数字主持人与数字嘉宾对话，开创大模型落地“试验田”

从能力迈向价值

360探索大模型赋能安全行业



大模型引领的科技创新与变革展现出宏大的前景，自然地，其行业垂直化发展也成为产业降本增效的新动力。这在安全领域同样不例外，由于勒索软件攻击、高级APT攻击、0Day攻击、供应链攻击等高级威胁愈演愈烈，并开始向自动化、工具化趋势发展，以实战效果为导向建设安全防御体系成为关键点。



在此背景下，在ISC 2023这场高度聚焦人工智能赋能安全跃迁的大会上，360正式发布了国内首个可交付的安全行业大模型。根据360集团首席科学家兼360数字安全集团CTO潘剑锋的介绍，360安全大模型正是基于通用大模型360智脑，通过蒸馏、继续预训练、有监督精调等技术手段训练而产出，将作为“安全副手”走进企业真实安全运营场景。

潘剑锋于ISC 2023正式发布360安全大模型

通用大模型底座能力+长效安全硬实力

成就360安全大模型



随着今年大模型的东风吹进安全行业，业内外厂商趋之若鹜，但据安全419观察，布局大模型的许多公司并不了解安全，而了解安全的公司又还不具备足够的能力驾驭大模型。



对此，潘剑锋表示，360恰恰两者兼顾，一来，360是国内最早迈入大模型领域的科技企业之一，360智脑汇聚千亿参数打造而成，已经成为垂直领域行业模型的基础底座；二来，360近二十年在AI安全应用及安全大数据方面积累颇深，这些经验和数据是训练安全行业大模型的必要“养料”。



具体来看，AI安全应用即如何利用AI来真实解决安全问题。早在2010年，360开发了世界首个人工智能反病毒引擎QVM ，具备“自学习、自进化”的能力，并成功运用到样本静态查杀场景中。此后不断加深技术积累完成迭代，相继于2014年和2017年发布下一代智能反病毒引擎QVM II和QAPT人工智能高级威胁检测引擎。利用人工智能反病毒引擎，对于任何一个新的病毒样本，平均可以在秒级提取其所有特征，并与攻击活动特征库进行匹配，以确定其属于哪个攻击组织、采用了哪些攻击手段，未知样本自动特征提取率可以达到100%，智能分析检出率大于95%，误报率小于0.01%。2023年360发布的多模态智能威胁分析引擎QMMD，更是能够融合多模态数据提升检测精确性，代表着安全领域人工智能创新应用的飞跃。



而在安全大数据能力方面，360数字安全大脑体系为安全大模型提供了大规模、多样性、高质量的有效数据语料。为保护全球超15亿终端，360建立的云查杀体系每天要进行560亿次左右的云查杀，同时，在过去15年中逐步建立了超320亿的样本库，每天新增处理1300多万样本，判断拦截100亿条网址，数据总量达到2EB。在如此数据体量下，360采用360搜索的底层技术建立了一套处理海量数据的大数据系统，建立了每一条数据的标签、特征、关联关系，包括样本、IP、域名、证书、网址、漏洞等等，海量高质量的数据供大模型进行专业训练，包含主防行为、沙箱报告、云查日志、网盾日志、技战术知识库、漏洞库等等，成就了360安全大模型。



中枢调度+插件辅助 360安全大模型的落地应用之路



具备打造安全大模型的硬核实力与深度积累之后还不够，进入落地实践应用阶段，我们需要思考安全大模型如何胜任“安全副手”的角色，在实际的安全运营中发挥出最优价值？



根据安全419的观察，企业经过多年不断扩张的安全建设部署，现实的安全运营困境在于，愈发堆叠的安全工具并不能高效感知并精确处置日益剧增的安全威胁，运维工作陷入疲软，也无法以足够优良丝滑的体验嵌入业务来响应不同的专业需求和私密需求，同时安全大模型如何与现有安全产品进行协同也是不可逾越的问题。



基于上述挑战，潘剑锋别开生面地提出，“只有一个独立的安全大模型并不足够，就像一个能够独立思考并行动的人，只有大脑并不能完成落地，还需要依靠中枢发布指令进行调度，需要手脚辅助完成相应的动作。”因此，360打造了一个以安全大模型为基础的企业安全智控系统，相当于给安全大模型配备了智能调度中枢和专用插件等好用、易用的辅助工具，与真实运营的安全产品和工具互动，通过自然语言指挥各类工具和系统来完成运营任务。



据介绍，这套基于360安全大模型的企业安全智控系统的能力主要来自于三大方面，一是安全大模型本身的推理能力、泛化能力、指令生成能力；二是智能调度中枢的辅助任务拆解、模型与插件自动化调度能力；三是将360多年积累的云端与本地的各类安全产品与工具插件化，形成安全大模型能力的闭环。

潘剑锋于ISC 2023现场演示360安全大模型

为了直观感受到360安全大模型对企业安全能力的加持提升，在会议现场，潘剑锋为大家演示了这套系统在不同的典型安全运营场景中的应用和能力。



最基础的，为了让企业日常业务有条不紊地运作，企业通常是依靠安全运维人员来设置、调整、管理一系列安全工具的机制策略，让其发挥应有的功能，这需要专业而系统的安全知识技能。而360安全大模型的投入，可以化身为一个“安全问答专家”角色，不仅全面掌握基础安全知识，并且通过训练企业私域知识，可以成为企业专属知识库，将有效承担安全专业问答引擎和威胁情报百科全书的职责，面向安全运维人员提供安全专业领域知识的有效赋能，大力提升运营效率和准确性。



潘剑锋现场演示了360安全大模型与通用大模型ChatGPT4问答PK对比结果。在询问APT组织、专业技术解决方案、内部产品信息时候，360安全大模型在准确性、时效性、专业性、安全性方面都明显优于通用模型。



更进一步，对安全运营工作中的高频、重点场景，安全运维人员需要监控查看一系列日志和告警，综合判断分析风险情况，协同对应的安全工具进行威胁处置，并完成后续的追溯和分析，在整个从事前到事中到事后的过程，都高度依赖于安全专家经验以及对业务的深度理解，现实中往往存在运营效果不清晰，安全能力不直观，威胁识别不准确的境况。360安全大模型在这类场景中，将扮演“安全运营专家”的角色，提供告警辅助研判、高级溯源分析、安全态势分析、安全事件预警等能力，提高安全运营效率和安全运营能力，真正帮助企业安全减负。



在演示环节中，潘剑锋展示了企业安全智控系统与360终端安全产品联动进行告警辅助研判、与360本地安全大脑联动进行高级溯源分析、以及与数字安全托管运营中心结合，高效完成运营统计、趋势分析、重点告警研判等运营工作。另外，通过这套智控系统与360网络空间测绘系统“对话”，能将自然语言转换为测绘产品的专用结构化查询语言，指挥产品进行自动检索；与360攻防技战术知识图谱融合，则能从实际案例、技战术等任何角度进行关联分析。






高度云化智能化

安全大模型正开启安全服务新范式



潘剑锋表示，这些功能目前都已在360内部和自有产品完成落地应用，并能面向市场和用户交付。另据其透露，360目前仍在持续探索安全大模型在真实业务场景、安全场景的落地应用，已将安全大模型与360数字人相结合，应用在日常安全态势分析、安全趋势讲解等实际业务中，对客户私有态势展示大屏实现智能问答讲解。




此举让360的安全能力更加直接、直观、即时地服务客户，这也让我们顺势联想到本届ISC 2023大会聚焦的主题——安全即服务。如今企业实施安全建设及运营，并非投入不够，而是投入之后依然没有效果，累赘而无用，安全产品能力的参差不齐，和安全专家能力经验的非标准化，让安全的效能发挥举步维艰。将优质的安全能力云化和智能化，以开箱即用的便捷服务方式赋能各行各业，注定是安全产业未来的发展方向。



安全大模型的到来正中其要害与需求，为安全服务提供重要抓手。第一层充当安全百科，通过大量安全知识和数据的训练，将通用大模型训练成满腹技能的安全专家；第二层辅助攻防决策，当系统遇到攻击报警时，由大模型判断是攻击或是误报；第三是将大模型与360现有全网安全大脑相结合，比如作为360安全托管运营服务的重要平台和工具，从而提升安全服务效果。



数字时代安全的新范式，正由安全大模型开启。



来源：360数字安全