三六零参与编制《人工智能安全框架》报告：聚焦当前AI风险
12月11日消息，近日，中国信息通信研究院（以下简称“中国信通院”）安全研究所发布《人工智能安全框架（2020年）》蓝皮报告。该蓝皮书主要针对全球人工智能安全框架缺失问题，聚焦当前人工智能突出安全风险，提出了涵盖人工智能安全目标，人工智能安全分级能力，以及人工智能安全技术和管理体系的人工智能安全框架。据三六零表示，其参与了此次蓝皮书的编制工作，其旗下360 AI安全研究院专注于人工智能与安全的前沿技术研究，在全球范围内率先发现了众多人工智能安全问题。
蓝皮书指出，在新基建推动催化下，人工智能技术将加快转变为像水、电一样的基础设施，向社会全行业全领域赋能。然而，人工智能基础设施却潜藏安全风险。一是人工智能算法自身存在技术脆弱性；二是人工智能新型安全攻击不断涌现；三是算法设计实施有误产生非预期结果。
然而，现阶段企业主要聚焦于人工智能技术研发和产品运营，在人工智能安全方面投入相对较少、基础薄弱。因此，该蓝皮书聚焦人工智能安全风险，凝聚业界专家共识，构建人工智能安全框架。
“人工智能安全框架，不仅能为企业提供提升人工智能安全能力的可参考路径，指导企业合理进行人工智能安全资源投入，并能为人工智能安全技术研发提出方向建议，推动人工智能安全技术产品化和服务化。”该蓝皮书写道。
据悉，该蓝皮书是在工业和信息化部网络安全管理局指导下，中国信通院联合360以及百度、腾讯、中科院信工所等共同编制。
环球网 蓝皮书显示，360首次发现并披露机器学习开源框架平台供应链安全风险，截至2020年11月20日，360累计发现框架平台依赖组件漏洞100余个。
在新基建推动催化下，人工智能技术将加快转变为像水、电一样的基础设施，向社会全行业全领域赋能。然而，人工智能基础设施却潜藏安全风险。一是人工智能算法自身存在技术脆弱性；二是人工智能新型安全攻击不断涌现；三是算法设计实施有误产生非预期结果。
现阶段企业主要聚焦于人工智能技术研发和产品运营，在人工智能安全方面投入相对较少、基础薄弱。因此，该蓝皮书聚焦人工智能安全风险，凝聚业界专家共识，构建人工智能安全框架。“人工智能安全框架，不仅能为企业提供提升人工智能安全能力的可参考路径，指导企业合理进行人工智能安全资源投入，并能为人工智能安全技术研发提出方向建议，推动人工智能安全技术产品化和服务化。”该蓝皮书写道。
根据蓝皮书信息，360旗下的AI安全研究院在全球范围内率先发现了众多人工智能安全问题。蓝皮书显示，三六零首次发现并披露机器学习开源框架平台供应链安全风险，目前全球著名漏洞数据库CVE披露的37个Tensorflow漏洞中，24个由中国安全厂商360发现。
页:
[1]