请使用手机微信扫码安全登录

切换账号密码登录

绑定手机号

应国家法规对于账号实名的要求,请您在进行下一步操作前,需要先完成手机绑定 (若绑定失败,请重新登录绑定)。了解更多

不绑定绑定手机号

360官网 | 360商城

推荐论坛版块活动360粉丝商城众测粉丝轰趴馆常见问题

近来,国内多家媒体纷纷报道TensorFlow被滥用制造色情视频的新闻。据了解,一个名叫deepfakes的Reddit用户利用AI技术创建了一个软件,可以自动将任何一张脸的图像无缝拼接到视频中。他由此将《神奇女侠》主角盖尔·加朵的脸嫁接到一部成人电影中女性角色的脸上。此后,另一位名叫deepfakeapp的Reddit用户发布了一款名为“FakeApp”的工具,允许任何人下载并自行使用的AI软件。而该软件正是建立在TensorFlow之上的。

更为严重的是,自从一些媒体报道了该事件后,deepfakes继续制作着这些视频,并获得了更多人的关注,其在Reddit上的专栏在不到两个月内就聚集了超过15000名用户。

虽然该事件可能只是人为恶意应用的意外,但结合去年TensorFlow爆出的安全漏洞问题,一个“细思恐极”的危机出现:如果有人专门盯准漏洞并进行恶意攻击,后果将难以想象。

2017年是人工智能取得了极大发展的一年,而可预测到的是,人工智能将在2018迎来发展的春天。深度学习作为AI领域的一个重要分支,俨然已经成为AI的代名词。深度学习(Deep Learning)本质上是一种神经网络算法,其原理是通过模拟人脑进行分析学习,算法训练时可以不用人工干预,因此它也属于一种无监督式机器学习算法。

进行深度学习首先要选择它的“语言”——也就是进行深度学习的工具,这就是深度学习框架。AI开发者可以不必重复造轮子,而是依据需要,使用已有的模型训练自己的数据。对于开发者而言,深度学习框架不仅要“好用”,更要“安全”,这二者缺一不可。深度学习框架作为AI软件的开发基础,其安全性不仅与开发者息息相关,实际上也关系到国家层面的安全。

AI软件大多是在深度学习框架上得以实现的,而受制于底层开发技术要求高、成本投入大等因素,一个开发者想要从头开发深度学习应用或者系统是极为困难的,因此绝大部分开发者会选择使用现有的深度学习框架。目前世界范围内主流的深度学习框架有TensorFlow、Torch、Caffe等。其中谷歌于2015年年底开源的深度学习框架TensorFlow在全世界范围内获得了最广泛的使用,它在很大程度上简化了AI的编程步骤,使得深度学习的门槛变得越来越低。开发者利用现有的框架和平台,可以便利地结合开源的算法与模型,训练自己的AI应用。

开发者利用现成深度学习框架之所以容易“上手”,是因为其可以让应用开发人员不用去关心神经元网络分层以及培训分类的实现细节,更多关注应用本身的业务逻辑。但这就意味着深度学习框架会掩盖它所使用的组件依赖,同时也隐藏了系统的复杂程度,而复杂性就暗藏了安全隐患。

这样,开发者享受着深度学习框架带来的高效,却往往容易忽视其间存在的安全隐患。正如文章开头所说,已成为很多开发者首选的深度学习框架TensorFlow在不久前被爆出存在安全风险,攻击者可以利用该风险生成TensorFlow的恶意模型文件,对AI用户进行攻击,对使用者自身的AI应用进行窃取或是篡改破坏。在中国,小米、中兴、京东等公司均在使用TensorFlow,国内的开发者似乎仍然倾向于利用来自国外的深度学习框架和平台,这意味着众多的中国开发者也身处于安全风险之中。

AI安全的问题不仅仅停留在开发者层面,更是牵涉到国家层面的信息安全问题。今年7月,哈佛大学肯尼迪政治学院贝尔弗科学与国际事务中心发布《人工智能与国家安全》报告,开始关注人工智能对美国家安全的巨大影响。一年前,我国的政府工作报告中第一次写入了人工智能。而在本届两会中,AI再次被写入政府工作报告,强调“加强新一代人工智能研发应用”,成为社会热议的焦点。

鉴于政府对AI的大力支持态度,以及AI技术能力在国家安全方面所拥有的巨大潜力,可以想见AI技术未来在国家科技、军事、战略层面的应用和落地,AI安全因此也变得至关重要。目前已有不少业内人士和媒体开始关注到TensorFlow漏洞爆发投射出的的AI安全问题。出于对国家安全层面的考虑,一个改善AI安全的解决途径是逐步降低对国外深度学习框架和开源平台的依赖。

事实上,中国AI力量已经在迅猛兴起,百度等国内互联网巨头也在致力于研发深度学习框架和开发平台,并且逐渐被开发者认知和使用。随着我国自行研发的深度学习框架日益成熟完善,未来中国的开发者的选择绝不仅仅停留在现有的几种国外主流深度学习框架。可以预见到的是,中国即将进入AI大发展时代,迎来前所未有的良好机遇。而过于依赖国外深度学习框架埋下的国家危机,也值得我们高度关注。在我国自有的深度学习框架之上搭建AI创造,无疑可以很大程度上规避这种潜在的安全隐患。我们对变“Made in China(中国制造)”为“Made by China(中国创造)”寄予希望,除了彰显民族自信,同样也是基于对国家安全的深刻关切。

来源 网络


共 0 个关于谷歌TensorFlow被色情化利用带来的国家安全思考的回复 最后回复于 2018-3-9 16:10

评论

直达楼层

您需要登录后才可以回帖 登录 | 注册

本版积分规则

飞机飞行 超级版主

粉丝:181 关注:13 积分:237227

精华:307 金币:228618 经验:198160

最后登录时间:2024-3-29

小水滴公测勋章 智能摄像机3C 摄像机APP V7.0 智能摄像机AP2C 360AI音箱MAX-M1 公测AI小水滴D903 安全卫士10周年纪念 版主 公测360摄像机标准版 儿童五周年纪念章 360家庭防火墙APP内测 公测360摄像机户外版 360手机f4 公测360摄像机变焦宠物版 公测360家庭防火墙V5S 公测摄像机D916 家庭安防套装 防火墙V5S增强版公测勋章 360粉丝达人勋章 360商城青铜会员

私信 加好友

最新活动

360云台摄像机9Pro写评论送大奖!

排行榜

热度排行 查看排行
今日 本周 本月 全部
    今日 本周 本月 全部

      内容推荐 热门推荐最新主帖

      扫码添加360客服号,涨知识的同时还有超多福利等你哦

      快速回复 返回顶部 返回列表