系统漏洞敲响AI安全警钟

2017年12月25日08:40  来源:科技日报
 
原标题:系统漏洞敲响AI安全警钟

  近日,腾讯安全平台部Blade团队对外发布消息称,该团队在对谷歌人工智能学习系统TensorFlow进行代码审计时,发现该系统存在重大安全漏洞,利用该系统进行编辑的AI场景,有遭受恶意攻击的可能。

  目前谷歌官方已经确认了该漏洞,并表示TensorFlow官网将在网站创建安全公告页面,及时披露和修复安全漏洞。

  尚未造成影响

  TensorFlow是谷歌研发的第二代人工智能学习系统,它可在小到一部智能手机、大到数千台数据中心服务器的各种设备上运行。除谷歌外,国外如eBay、Airbnb、Twitter、Uber等企业,国内的小米、中兴、京东等公司都在使用TensorFlow进行AI模型训练和开发。

  腾讯安全平台部Blade团队回复科技日报记者,这次发现的漏洞不但攻击成本低,普通攻击者就能实施攻击,而且迷惑性强,大部分AI研究者可能没有防备。安全漏洞风险较高,主要问题是在TensorFlow处理训练好AI模型的时候,没有考虑到规避异常AI模型,导致其执行了黑客的命令逻辑。

  好在目前这个漏洞尚未被“有心人”利用,造成严重后果。腾讯安全团队表示,要从根本上解决这种漏洞需要TensorFlow框架更改处理模型的架构,难点是整个架构设计的更改。目前使用者应该避免使用外部的AI模型,等待官方发布补丁。

  安全如何保障

  此前有业内人士认为,由于AI框架刚开始被大范围使用,截至首个安全风险被报告,业内对此类安全问题关注度还不够。

  北京市计算机中心算法工程师张秀玲介绍,目前这些第三方基础库是端对端的相对成熟稳定的平台,可以省去很多基础编程工作,只需要在这些基础库之上设计算法架构即可,尤其对于做应用的人很有吸引力。腾讯安全团队表示,现在很多软件都会依赖TensorFlow、Caffe、Torch 等第三方开源基础库,所以这里也容易引入漏洞,常见的是安全漏洞。AI可能存在的安全漏洞分为两类。

  “第一类是AI算法自身的漏洞,比如通过一些方法欺骗AI,让AI误判。之前业界和我们的团队都实现过利用特制的交通标识牌欺骗自动驾驶系统。”腾讯安全团队说。还有一类属于传统的软件漏洞,比如像处理文件的漏洞、引入第三库带来的漏洞等。腾讯安全团队表示,造成什么风险是由这个AI系统的能力决定的。如果是关系国计民生的大系统那将会造成很大危害,会导致AI失控,或者说被黑客控制。

  我国7月发布的《新一代人工智能发展规划》明确指出,人工智能发展的不确定性带来新挑战。在大力发展人工智能的同时,必须高度重视可能带来的安全风险挑战,加强前瞻预防与约束引导,最大限度降低风险,确保人工智能安全、可靠、可控发展。

  腾讯安全团队认为,安全防护是一个纵深工程,仅仅从算法和代码层面考虑的话,要从漏洞成因的两方面入手,算法上不要出问题,代码上也要保证安全。(翟冬冬)

(责编:赵怡、李忠双)

推荐阅读

吃完鸡蛋千万不能立即做这7件事
鸡蛋是很好的营养品之一,富含多种人体必需的物质,但是在中医学中,任何事物都相生相克,鸡蛋也不例外,因为吃完鸡蛋后,有些事情不能立即做。【详细】
卫生健康|健康图集吃完鸡蛋千万不能立即做这7件事 鸡蛋是很好的营养品之一,富含多种人体必需的物质,但是在中医学中,任何事物都相生相克,鸡蛋也不例外,因为吃完鸡蛋后,有些事情不能立即做。【详细】

卫生健康|健康图集

10大廉价长寿食物 竟然每天都在吃
每日吃一个苹果可以大幅降低患老年痴呆症的风险。苹果含有的栎精不仅具有消炎作用,还能阻止癌细胞发展。苹果同时富含维生素和矿物质,能够提高人体免疫力,改善心血管功能。
【详细】
卫生健康|健康图集10大廉价长寿食物 竟然每天都在吃 每日吃一个苹果可以大幅降低患老年痴呆症的风险。苹果含有的栎精不仅具有消炎作用,还能阻止癌细胞发展。苹果同时富含维生素和矿物质,能够提高人体免疫力,改善心血管功能。 【详细】

卫生健康|健康图集

戏路广可清纯可美艳的女星
娱乐圈美女如云,在如今快节奏的影视圈对女演员的要求也愈加严苛,她们既要能驾驭清纯娇弱型的角色,也要hold住霸气美艳型的形象。【详细】
娱乐时尚|娱乐图集|影视戏路广可清纯可美艳的女星 娱乐圈美女如云,在如今快节奏的影视圈对女演员的要求也愈加严苛,她们既要能驾驭清纯娇弱型的角色,也要hold住霸气美艳型的形象。【详细】

娱乐时尚|娱乐图集|影视

自带cp感旺搭档的百搭明星
娱乐圈里面有这样一种明星,无论和谁搭档演情侣,都毫无违和感,人称“自带CP感”,这些明星还有“旺夫旺妻”的体质,搭档一个火一个。【详细】
娱乐时尚|娱乐图集|影视自带cp感旺搭档的百搭明星 娱乐圈里面有这样一种明星,无论和谁搭档演情侣,都毫无违和感,人称“自带CP感”,这些明星还有“旺夫旺妻”的体质,搭档一个火一个。【详细】

娱乐时尚|娱乐图集|影视

网友展示与油画人像合照 相似度惊人
美国艺术博客网站“无聊熊猫”上汇集了一系列令人称奇的照片。画面中的人们站在博物馆的一张张人物肖像油画旁,样貌与画中人物的相似度惊人。【详细】
国际热图网友展示与油画人像合照 相似度惊人 美国艺术博客网站“无聊熊猫”上汇集了一系列令人称奇的照片。画面中的人们站在博物馆的一张张人物肖像油画旁,样貌与画中人物的相似度惊人。【详细】

国际热图

相亲角搬到了网上 成中国式婚姻焦虑新出口

婚姻的围墙之外,超过2亿的单身人群及其背后的家庭组成了庞大的相亲市场(数据来自2016年国家年鉴),家长在各类相亲市场中奔忙,折射着中国式的婚姻焦虑。【详细】

社会热图相亲角搬到了网上 成中国式婚姻焦虑新出口 婚姻的围墙之外,超过2亿的单身人群及其背后的家庭组成了庞大的相亲市场(数据来自2016年国家年鉴),家长在各类相亲市场中奔忙,折射着中国式的婚姻焦虑。【详细】

社会热图

龙江拍客

  •  
  •  
  •  
  •