360周鸿祎：我的使命就是给人工智能保驾护航

在5月16日上午召开的第三届世界智能大会主论坛上，360集团创始人、董事长兼首席执行官周鸿祎就人工智能时代的安全发表了主题演讲。

随着新时代的信息化加速，大家满耳朵听到的都是云计算、大数据、物联网、5G通讯、人工智能等新鲜词汇。但是你发现这些系统越先进越智能，如果不能同步的考虑到安全的问题，一旦这些系统被攻击，所带来的灾难或许会更大，而这已是老生常谈的问题之一。

周鸿祎认为，现在人工智能的趋势就是无人化，也就是无人值守，一旦无人值守的系统出现任何技术问题，到底最后的控制权是否应该交给人类，成为业界关心的事情之一。

“在计算机出现错误的时候，究竟应该是听计算机的，还是应该听人类的？我们是不是应该想一想，将来在无人车、无人工厂、无人码头，无人港口等等类似无人值守的系统里，在传感器数据因被污染而可能出错的情况下，我们应该把控制权交给谁。”

周鸿祎表示：“还有一个例子。现在人脸识别很厉害，但是你会发现人脸识别机器深度学习算法是有先天的缺陷，而这一缺陷是跟数据集有关的。网络黑客通过研究，发现只要给人脸识别机器看一个从来没有看见过的图案，例如把一种奇怪的条文图案打印在纸上，别在自己的衣服上，摄像头看到这个图像就判断这个不是人了，也就不会再做任何人脸识别的工作。这也就意味着犯罪分子只要穿着这种衣服就可以大摇大摆在人工智能识别设备面前经过而不被发现。”

“有安全团队发现，当特斯拉启动自动驾驶功能的时候，在马路上贴一些奇怪的交通符号，且这些符号是特斯拉在训练过程中从没有遇见过的，就可以迷惑特斯拉的车载电脑，使特斯拉的自动驾驶进入异常状态，从而引发交通事故。”

随后，周鸿祎宣布道，“实际上我们在天津要建设自动的靶场和视网攻防的基地。在过去的3年里，360集团与公安部合作，已经组织了多次大规模的护网系统。我们在安全绝对可控的情况下，邀请黑客团队向我们所保护的系统发起实际的网络攻击，从而发现我们未能保护到的地方。这样的实际演练远比静态的理论研究更能证明该系统是不是安全的。”

“所以我们非常肯定的说，无论多么先进的人工智能系统，在上线的时候，就应该先找像我们这样专业的安全团队来帮你做攻防，在我们手里发现问题，比在实践中发现问题可能要好一些。“

来源 百家号