360胡振泉出席2024数博会：应对大模型数据安全风险要“以模制模”

8月28日，2024中国国际大数据产业博览会在贵阳国际生态会议中心隆重召开，一场以“人工智能时代数据安全风险和应对策略”为主题的数据安全交流活动吸引了众多行业专家和企业代表。该活动由国家数据局指导，贵州省大数据发展管理局、贵阳市人民政府主办，中国互联网协会承办，贵州省互联网协会协办，旨在深入探讨数据安全最新热点、技术和产业发展动向，提升数据安全治理和保障能力。

随着大模型在各行各业的广泛应用，其在提升效能的同时，也带来了数据安全和隐私保护的担忧。对此，360数字安全集团总裁胡振泉指出，数据安全风险主要源于两个方面：一是数据收集和处理阶段的不规范操作，可能导致隐私数据的泄露；二是大模型的内部机制像一个“黑匣子”，生成的内容难以预测，增加了隐私泄露的可能性。

为了应对大模型带来的一系列数据安全挑战，胡振泉提出，首先，需要对大模型训练数据的全生命周期进行严格的监控和管理，对数据语料进行更严格的智能治理。其次，他提倡通过“以模制模”的方法，即利用人工智能技术来解决人工智能带来的数据安全问题。具体而言，要构建专用的、规模较小的专业大模型，对大模型的输入输出内容进行双向安全监测。



对于未来的大模型数据安全趋势，胡振泉建议企业应根据自身业务情况，采取“小切口、大纵深”的策略，精准定位业务场景，逐步提升数字化水平，以小步快跑的方式实现企业的全面AI化。

作为国内唯一兼具安全能力和AI技术双重优势的厂商，360针对攻击检测、运营处置、追踪溯源、知识管理、数据保护和代码安全等六个关键安全场景，开发了六个专家级别的子模型。这些子模型共同构成了360安全大模型，并已在终端安全、安全运营、安全服务等多个业务场景中得到实际应用。据悉，某国有大型企业用户在应用360安全大模型后实现告警降噪效率提升900%，事件研判时间缩短96%。



未来，360将继续秉持“上山下海助小微”的企业使命，以数字安全和人工智能双主线，为数字化转型和创新提供坚实保障。



来源：360数字安全