直击RSAC 2021| 人脸识别、自动驾驶暗藏“杀机”，安全成人工智能发展关键

作为新一轮科技革命和产业变革的重要协同力量，人工智能在算法、算力、大数据的技术驱动和巨大的经济社会需求牵引下，已经取得了突破性发展并与多种应用场景深度融合。但在风声水起之余，人工智能产业也暗藏隐忧。随着全球加速数字化转型步伐，虚拟空间和物理空间边界的消融，使人工智能基础设施、设计研发及融合应用等面临的安全风险正日益凸显，并超乎想象。


近日在RSAC大会上，来自Inrupt公司的副总裁Davi Ottenheime就分享了题为《Top Seven AI Breaches：Learning to Protect Against Unsafe Learning》的演讲，从人工智能发展现状、风险挑战及趋势进行了深度解读。

360社区

人工智能“七宗罪”浮出水面，

科幻电影还能否照进现实？

智能机器人自信地“走上”舞台担纲主持；无人车在测试道路上完成一系列动作，司机却稳坐千里之外；智能健康“魔镜”能实时显示测试者“睡眠”“情绪”“皮肤”等一系列健康指标系数……曾经在科幻电影中才能看到的炫酷片段已经在生活中得以实现，种种“黑科技”被广泛应用，人工智能的发展深刻地影响着社会生活，而人工智能技术通过模拟人工来提升实用业务方面的效率，比如车牌识别、人脸识别等。

但一台机器是否真能够像人类一样“思考”？从人工智能技术的交付反馈来看，结果不尽人意。随着人工智能技术的广泛应用，人工智能“脆弱面”逐渐暴露，机器人“自我意识”、技术滥用等安全漏洞引起业界更多关注。

有数据显示，智能机器的广泛应用造成越来越多的人在机器运行过程中受伤。自1979年起至今，已经发生诸多起机器失控发生事故的情况：2019年波音公司发生的346名乘客被自动驾驶飞机撞死；截止2021年3月，特斯拉公司发生的“自动驾驶”致人死亡事件已经超过15例。

究竟是什么让“智能”机器变得如此危险？Davi总结了人工智能技术的“七宗罪”：

翻译识别的不精准；

书面（语音）识别障碍；

无法进行有效的表情（情感）认知；

二元分类导致男女性对立问题升级；

视觉（面部）识别导致民族、种族问题再次被关注；

“威胁”检测的问题：无法检测真正的威胁、错误地对检测方打标签等；

交通安全隐患：“自动驾驶”失灵等


纵观以上，可以归结为两大类问题：首先是机器的问题，这源自于机器的功能性能、算法以及编程语言，这是浅层次的问题；其背后更深层的原因则是源自于人类社会的法则，这里包含了大量社会工程学问题：比如社会结构的不对等、社会不同阶段不成文的规则、性别问题、种族问题等。

而针对机器的问题，除了当下常做的“重启试试”之外，Davi提出应当建立威胁模型，通过严密地测试和审核后进行产品发布。其次，应当要从人类道德出发建立审查委员会来尝试解决。

数字化时代，人工智能技术从最低级别的硬件传感器和芯片设计到软件本身，包括硬件，软件，协议，数据，算法，应用动机和道德规范都面临安全风险。离开了安全谈人工智能，犹如无水之源、无本之木。实践也已证明，时下人工智能安全投入不足以及人工智能安全产品服务欠缺之间的矛盾，正成为制约人工智能产业长远发展的瓶颈。

“看见”安全风险成关键

360数字安全能力体系护航人工智能

可以预见的是，人们在拥抱人工智能、迈向数字社会的同时，攻击者已经在开始运用人工智能技术于攻击实战，激发了用人工智能赋能网络安全的需求，人工智能等新技术应用在安全、伦理、法律法规、社会治理等方面的挑战需要重视。只有未雨绸缪，加强对潜在风险的研判和防范，确保人工智能各项技术安全、可靠、可控，才能安享“智能+”的时代红利。

360作为数字经济安全的守护者，基于15年攻防实战经验及230亿安全研发投入，积累了海量安全大数据、东半球白帽子军团、领先的漏洞挖掘能力、APT狩猎能力。基于此打造了以360安全大脑为核心的数字安全能力体系。

360安全大脑作为网络空间智能预警机，基于云计算、大数据、人工智能等新一代信息技术，将云端安全大脑核心能力本地化部署开放式安全智能分析、研判、预警、赋能系统，通过连接安全设备、汇聚安全数据、积累安全知识并对此进行智能计算分析，实现全景安全知识、全栈核心技术、全视安全大数据的融合。以此来“看见”人工智能中的安全风险。

在这套协同体系之下，整体威胁防御能力、威胁检测能力、威胁系统防御能力、威胁响应能力得到提升，实现“安全防御-监测预警-威胁感知-事件处置”的安全运营闭环，提升关键信息基础设施在数字时代下的自身防御及安全能力进化基因。

网络安全与科技发展相伴相生，无论如何，数字化时代，人工智能安全问题不容忽视，网络攻击不可小觑，360将在数字安全能力体系的赋能下，兼顾安全与发展，助力人工智能生态共建。


360政企安全

看看了吧