360牵头成立大模型安全联盟联合企业及学术院校等共筑国家AI安全防线

作为打造新质生产力的核心引擎，人工智能大模型对传统产业数转智改、数实融合发挥出巨大的推动作用，与此同时，大模型面临的恶意操控、内容合规、算法与隐私安全攻击等问题也日渐凸显，带来新的安全风险与挑战。在这一背景之下，12月17日，360集团集结产业上下游合作伙伴、科研机构及最终用户共同在北京成立大模型安全联盟，旨在构建开放协作的大模型安全产业新模式，推进产业生态的全面融合。

360社区

关注大模型存在的安全风险已成为当下各界的重要共识。中国网络空间安全协会秘书长郝晓伟、中国电子信息产业发展研究院党委副书记胡国栋、360集团创始人周鸿祎、360集团首席运营官叶健，以及生态伙伴代表，联想集团副总裁、中国区首席战略官、联想中国技术管理委员会执行主席阿不力克木·阿不力米提、腾讯云高级副总裁徐翊鸣、中国载人航天工程软件和数字化中心主任程胜、MiniMax合伙人魏伟、百度智能云泛科技行业解决方案总监栗伟、清华大学教授黄永峰、北京大学(临港)大模型对齐中心执行主任、北京阿莱门科技有限公司首席执行官徐骅、隐拓智安创始人、CEO张天鑫等出席成立仪式。
郝晓伟在致辞中指出，当前人工智能安全风险日益凸显，期待基于此次契机，打造协会与企业的创新合作模式，共享技术创新与产业融合的最新成果，联合应对人工智能安全的新问题、新挑战。360集团作为中国网络安全空间协会的理事单位，始终积极参与并推动协会相关工作。此次在协会与企业的紧密协作下，各方将持续发挥自身优势，为打造人工智能先锋产业生态贡献更多力量。
周鸿祎在发言时表示，人工智能技术是一把“双刃剑”，在带来自动化和先进工作生活方式的同时也带来很多安全问题，甚至不亚于核武器，是人类有史以来面临“最大的安全挑战之一”，远超过传统数字安全。尤其是包括其他国家的网络军队、黑产、灰产的组织者甚至犯罪分子等也可以利用大模型，提升找漏洞、写攻击代码的能力，因此未来网络安全可能会从人与人的对抗，变成机器与人的对抗，再发展为机器与机器的对抗。

360社区

在周鸿祎看来，人工智能在提升生产力的同时，也带来了包括幻觉、深度伪造、注入攻击、数据污染或投毒等前所未有的安全新挑战。而随着大模型在无人驾驶汽车、无人机、智能机器人等领域的应用日渐广泛，一旦产生幻觉等安全问题，可能对个人、社会甚至国家安全形成重大隐患。如果安全问题得不到有效的控制和解决，又可能会让政府监管机构对人工智能充满顾虑和疑虑，从而出台更多的限制政策，这对产业发展同样形成挑战。
据了解，作为兼具数字安全和AI双重能力的科技企业，360很早开始关注大模型安全风险，并推出一系列有针对性的创新技术，包括开发了国内首个安全大模型，通过“以模制模”理念，利用AI大模型来检测和防范大模型可能出现的安全风险，既解决传统网络安全问题，又为攻克AI安全新挑战提供了可行性方案。
除宣布联盟成立外，360也在成立仪式上推出了一系列大模型安全产品，包括大模型系统安全检测平台“360智鉴”；大模型内容安全护栏“360智盾”；大模型可信增强工具“360智搜”；以及基于“内聚知识，外联情报”理念专为企业打造的智能知识管理与应用平台360智能文档云3.0，和针对情报监测与分析提供一站式解决方案的360舆情卫士。
值得一提的是，成立大模型安全联盟并非周鸿祎首度发起行业大联合行动。去年，360发起成立大模型产业联盟，经过一年发展，成员已突破千家，核心伙伴超400家，覆盖十几个行业；今年360开放了安全卫士、安全浏览器、搜索、智能硬件四大AI应用场景，联合国内16家主流大模型厂商，共同开启国内最强“大模型联盟”，打造了360AI助手，在多项打分上全面超过GPT-4o。
周鸿祎在发布仪式上表示，组建大模型安全联盟的意义在于要解决大模型发展过程中出现的安全问题，这既需要像360这样的网络安全专家，也需要对大模型有深入研究的同行。
周鸿祎对联盟提出三个期望：第一，开放性，随时欢迎更多的大模型从业者加入；第二，技术上互通有无，形成真正保护大模型的应用成果；第三，希望联盟能发出自己的声音，让公众在重视安全的同时，对大模型可能犯的一些小错能够宽容和理解。周鸿祎认为，通过大模型安全联盟的组建，如果能提出解决大模型安全问题的中国方案，那么对全世界的大模型应用安全都有意义。

来源：金融界