请使用手机微信扫码安全登录

切换账号密码登录

绑定手机号

应国家法规对于账号实名的要求,请您在进行下一步操作前,需要先完成手机绑定 (若绑定失败,请重新登录绑定)。了解更多

不绑定绑定手机号

360官网 | 360商城

推荐论坛版块活动360粉丝商城众测粉丝轰趴馆常见问题
数字化浪潮中,大模型作为新质生产力的代表成为新一轮工业革命的核心引擎。然而,随之而来的安全挑战也日益凸显,亟需有效的大模型安全防护实践总结、体系化的安全框架、解决方案以及能力支撑。



在3月20日举办的360安全大模型3.0发布会上,360数字安全集团重磅发布大语言模型安全防护方案,展示了360在该领域的最佳实践、理论创新、系统化框架方案和核心能力成果。



360社区

360社区


360数字安全集团副总裁李博




1

解决大模型安全问题

亟需全新战法                              



在数字中国建设和全球数字化转型的浪潮下,大模型技术由于其令人耳目一新的强大智能化能力,正在被快速应用于千行百业,成为新质生产力的代表。然而,大模型的全新特性也带来前所未有的安全挑战,既存在传统上的网络与数据安全,又新出现了内容可信、模型失控和和合规向善等多方面的安全挑战。



“这些安全挑战,只有传统的网络安全与部分数据安全问题可以用传统的安全方法解决,其它以语料和内容为核心的安全问题都源于大模型自身特性。因此,不做大模型的传统安全企业,无法深刻洞察大模型自身安全特性所带来的内容安全问题,也就无法构建大模型原生安全能力。”360数字安全集团副总裁李博表示。



解决大模型问题首先需要顶层逻辑与方法论。360率先提出了大模型的安全四原则:可靠、可信、向善、可控,旨在从顶层设计上全面保障大模型的安全。为了实现这些原则,360又进一步提出了一套核心战法,包括建立“网络与数据安全与大模型自身安全”的双轮驱动体系,坚持以内容安全为核心,在大模型内部内置原生安全机制,采用“小模型”的技术思路保障大模型安全的技术路线,同时构建大模型安全实战对抗评估体系对打模型安全实战能力进行评估,并进一步构建以服务运营为核心的大模型安全持续治理体系等。



2

360大模型安全解决方案

构筑大模型安全底座                     



大模型安全战法的落地需要足够的硬核安全能力支撑。360基于大模型领域的实践,提出了大模型安全能力体系框架(AISF框架)。这个框架将大模型安全能力分为两部分,一是传统网络与数据安全能力,二是需要嵌入到大模型内部,以解决大模型内容可信、合规向善为目标的大模型原生安全能力。



为了将360大模型安全的核心能力输出给千行百业,360提出了“双轮驱动”的大模型安全解决方案框架。在框架中,一方面,利用360安全云围绕“数据、探针、平台、专家、AI”这五个核心要素,在网络与数据安全层面对打模型进行全面防护;另一方面,通过“360大模型原生安全能力增强包”解决大模型在内容可信、合规向善、模型可控上存在的安全问题,并利用360独有的大模型安全评估系统,对大模型的安全能力进行实战评估。



360社区

360社区


“双轮驱动”的360大模型安全解决方案




这套360大模型安全解决方案可以平移、复制给有需求的行业客户与合作伙伴和,并以标准化的能力产品方式对其他大模型企业进行安全赋能,确保360的大模型安全成果与积累发挥最大价值。



3

360引领大模型安全实践

助力“数转智改”                           




只有躬身入局才能攻克大模型安全难题。凭借安全和大模型双重能力,360的大模型创新能力不仅得到了政府机构的认可与赞誉,更在多个行业中实现了落地应用,展示了其实际应用价值。



在与某金融机构合作中,360利用私有大模型为其部署了多套AI生产力工具,从企业入职培训、合规文档编写、电销意向判断,到催收分案、系统告警提示等,同时在大模型内部集成了360大模型安全解决方案,在帮助该企业降本增效的同时,确保了大模型的安全。



此外,360大模型安全解决方案还在政务、税务、医疗等多个重点行业完成了落地,为这些行业的数字化转型提供了坚实的安全保障。



随着数字化时代的快速推进,大模型技术的安全问题将变得愈发重要。360大模型安全解决方案的成功实践,不仅为行业树立了大模型安全建设的典范,更为整个行业的安全发展指明了方向。未来,360将继续引领大模型安全领域的发展,为构建更加安全、可靠的数字化世界贡献力量。



来源:360数字安全

共 1 个关于360推出大模型安全解决方案,塑造大模型安全屏障的回复 最后回复于 2024-3-31 16:16

评论

直达楼层

飞机飞行 超级版主 楼主 发表于 2024-3-31 16:16 | 显示全部楼层 | 私信

IP属地: 安徽省

360构筑大模型安全底座      
您需要登录后才可以回帖 登录 | 注册

本版积分规则

飞机飞行 超级版主

粉丝:184 关注:13 积分:254221

精华:351 金币:240802 经验:211657

IP属地: 安徽省

最后登录时间:2025-2-14

小水滴公测勋章 智能摄像机3C 摄像机APP V7.0 智能摄像机AP2C 360AI音箱MAX-M1 公测AI小水滴D903 安全卫士10周年纪念 版主 公测360摄像机标准版 儿童五周年纪念章 360家庭防火墙APP内测 公测360摄像机户外版 360手机f4 公测360摄像机变焦宠物版 公测360家庭防火墙V5S 公测摄像机D916 家庭安防套装 防火墙V5S增强版公测勋章 360粉丝达人勋章

私信 加好友

最新活动

免费送用户100辆国产新能源汽车!快来参与

排行榜

热度排行 查看排行
今日 本周 本月 全部
    今日 本周 本月 全部

      内容推荐 热门推荐最新主帖

      扫码添加360客服号,涨知识的同时还有超多福利等你哦

      快速回复 返回顶部 返回列表