太有AI了！我们帮谷歌Tensorflow发现了24个漏洞

近日，360 AI安全研究院向谷歌Tensorflow进行了安全测试，并提交了24个漏洞，目前均已被谷歌确认，影响上千万开发人员。据悉，谷歌 Tensorflow官网显示共有35个漏洞，其中360集团挖掘发现24个，是提交漏洞最多的公司，在数量上名列全球首位。

360提交漏洞后，谷歌对所有漏洞划分危险等级，分为严重、高危、中危、低危四种类型。在本次360提交的24个漏洞中，其中危险等级严重的漏洞（critical severity）2个，高危（high severity）8个，中危（moderate severity）12个，低危（low severity）2个。

对谷歌来说，360此次提交的漏洞对Tensorflow迭代更新有很大影响，目前谷歌已经对24个漏洞全部修复。

Tensorflow是目前最流行的机器学习框架之一，由谷歌2015年11月推出，深受AI开发人员、应用开发人员喜爱，其下载量已达上千万级。

不过，在方便开发者的同时，Tensorflow也面临一定安全风险。360 AI安全研究院指出，机器学习框架是最重要的人工智能基础设施，但目前在研发机器学习框架时，更多关注其功能、性能以及面向开发者的易用性，却缺乏严格的安全测试管理和认证，一旦其安全风险被攻击者恶意利用，就会危及AI产品和应用的可用性和可靠性，甚至导致重大的财产损失与恶劣的社会影响。

“任何程序员都可以在Tensorflow里开发产品，如果它本身有漏洞，那么开发人员用它时就会遇到风险，比如攻击者可以控制开发人员的电脑，进而可以窃取各种信息，或者安装后门等。”360 AI安全研究院举例说，“此外，若Tensorflow框架存在安全问题，普通用户在使用依赖于该框架的AI应用时，也将面临安全风险。”

据悉，360 AI安全研究院隶属于360未来安全研究院，专注于人工智能与安全前沿技术研究，是全球首个从系统实现角度对AI关键基础设施进行攻击的团队，目前已经研制完成多款先进的漏洞挖掘工具，累计发现100多个主流机器学习框架及依赖组件漏洞，影响范围包括Tensorflow、Caffe、PyTorch、OpenVINO等。

360 AI安全研究院建议，未来各厂商应加强在框架安全方面的重视和投入，特别是要对涉及框架外部环境交互的模块、软件供应链等环节进行重点安全性检测。另外，框架安全应协同硬件安全、算法安全、数据安全等软硬件各维度的安全防御技术，进而建立一体化安全防御体系。


来源  环球网