影响千万开发者 360 AI安全项目入选网信办案例

4月26日，在数字中国建设成果峰会人工智能分论坛上，中央网信办组织评选的人工智能企业典型应用案例正式发布，360 AI安全实验室“人工智能框架安全风险检测案例”成功入选。此前，360 AI安全实验室发现了谷歌旗下Tensorflow框架漏洞27个，在数量上名列全球首位，影响千万开发者。

据悉，此次遴选始于去年10月，是由中央网信办信息化发展局开展人工智能创新应用案例征集工作，经人工智能社会实验专家组评审，其目的是为发现和挖掘人工智能行业的最新场景和杰出企业，进一步推动我国人工智能健康稳定发展，最终共遴选出35家人工智能企业典型应用案例。

据360 AI安全实验室介绍，近年来，谷歌、脸书、微软等公司发布了一系列开源的人工智能框架，如Tensorflow、PyTorch、MXNet等，目前已在工业界和学术界广泛应用。据媒体报道，国内50%的AI公司采用TensorFlow开源算法框架及二次开发作为产品，在人脸识别、语音识别、无人驾驶、自然语言处理等领域进行服务。而且，伴随AI算力逐渐往终端迁移，国内许多厂商也陆续推出了适用于终端的AI框架。

然而，目前人工智能开源机器学习框架往往缺乏严格的安全测试管理和认证，存在严重的安全风险，一旦被攻击者恶意利用，就会危及整个人工智能产品和应用的可用性和可靠性，甚至可能导致重大财产损失与恶劣社会影响。

因此，研究人工智能框架安全尤为必要。去年8月，360 AI安全实验室采用自研的漏洞挖掘工具，不到一个月的时间内发现了Tensorflow框架多个安全问题，获得谷歌分配的24个CVE编号。目前，谷歌Tensorflow官网显示共有43个漏洞，其中360 AI安全实验室挖掘发现27个，是提交漏洞最多的公司，在数量上名列全球首位。目前，360 AI安全实验室已经累计发现主流AI框架及依赖库漏洞超过100个。

360 AI安全实验室建议，未来各厂商应加强在框架安全方面的重视和投入，特别是要对涉及框架外部环境交互的模块、软件供应链等环节进行重点安全性检测。另外，框架安全应协同硬件安全、算法安全、数据安全等软硬件各维度的安全防御技术，建立一体化安全防御体系。

360 AI安全实验室隶属于360未来安全研究院，专注于人工智能与安全前沿技术研究，是全球首个从系统实现角度对AI关键基础设施进行研究的团队，在人工智能安全发展方面颇有建树。2019年，360作为惟一一家网络安全公司，入选国家新一代人工智能开放创新平台，去年6月，360再次获得科技部“新一代人工智能”重大项目支持。

据悉，作为数字中国建设成果峰会的核心分论坛之一，人工智能分论坛由国家互联网信息办公室主办，之江实验室、清华大学智能社会治理研究院、航天科工网络信息发展有限公司、福州市人民政府承办，中国互联网发展基金会、浙江省之江发展基金会协办。


来源  快科技