应用:机器人 工业4.0 智能家居 无人系统 虚拟助理 商业智能 可穿戴 安防 医疗 金融 其他

技术:云计算 大数据 核心硬件 操作系统 计算机视觉 机器学习 自然语言处理 语音识别 模式识别 其他

当前位置:首页>技术 >机器学习>小伎俩便可蒙骗人工智能 算法漏洞存多重隐患

小伎俩便可蒙骗人工智能 算法漏洞存多重隐患

2018-12-27 来源:网络转载责任编辑:AI小爱 浏览数:68 AI圈

核心提示:随着人工智能技术的发展,相关技术在社会生活的应用正越来越深入、广泛。但是机器学习算法不可避免存在的漏洞,成为人工智能产品使用中的“定时炸弹”。据国外媒体报道,请想象今年是2022年,你正坐在一辆自动驾驶汽车中

随着人工智能技术的发展,相关技术在社会生活的应用正越来越深入、广泛。但是机器学习算法不可避免存在的漏洞,成为人工智能产品使用中的“定时炸弹”。

小小伎俩便可蒙骗人工智能 算法漏洞埋下多重隐患

据国外媒体报道,请想象今年是2022年,你正坐在一辆自动驾驶汽车中,按照每日的常规路线行驶。你们来到了一处停车标志前,这个地方已走过了上百次。然而这一次,汽车竟直接开了过去。

在你看来,这块停车标志看上去别无二致。但对于汽车来说,它却和其它停车标志截然不同。你和汽车不知道的是,就在几分钟前,一名街头艺术家在这块标志上贴了一小张贴纸。人眼注意不到,却逃不过机器的“眼睛”。换句话说,这张小小的贴纸使汽车将停车标志“看”成了完全不同的标志。

这听上去离我们很遥远。但近期研究显示,人工智能很容易被类似的方法糊弄,“看见”的东西与人眼产生巨大偏差。随着机器学习算法在交通、金融和医疗体系中运用得愈加普遍,计算机科学家希望在不法分子真正动手之前、找到对抗这些攻击的方法。

“机器学习和人工智能领域对这一问题感到十分担忧,更何况这些算法被运用得越来越普遍。”俄勒冈大学计算机与信息科学助理教授丹尼尔·洛德(Daniel Lowd)指出,“如果只是漏标了一封垃圾邮件,没什么大不了的。但如果你坐在一辆自动驾驶汽车里,你就得确保汽车知道往哪儿走、且不会撞上什么东西,因此风险自然高得多。”

智能机器是否会失灵、或受到黑客控制,取决于机器学习算法“了解”世界的方法。若机器受到干扰,就可能将熊猫看成长臂猿,或是将校车看成鸵鸟。法国和瑞士研究人员开展的一项实验显示,这样的干扰可导致计算机将松鼠看成灰狐狸,或将咖啡壶看成鹦鹉。

这是如何实现的呢?思考一下儿童学习识数的过程:儿童观察数字时,会注意到不同数字的共同特征,如“1又细又高,6和9都有一个大圆环,8则有两个”等等。看过了足够多的数字之后,即使字体不同,儿童也能迅速认出4、8、3等新数字。

机器学习算法了解世界的过程其实与此类似。要使计算机探测到某种信息,科学家会先向计算机中输入成百上千条实例。机器筛查这些数据时(如:这是一个数字;这不是数字;这是一个数字;这不是数字),便可逐渐了解该信息的特征。很快,机器便能准确得出“图片上是数字5”这样的结论。

从数字到猫咪,从船只到人脸,儿童和计算机都利用了这一方法学习识别各种各样的物件。但和人类儿童不同,计算机不会对高级细节多加留意,如猫咪毛茸茸的耳朵、或数字4独特的三角形结构。机器“看见”的不是图片整体,而是图片中的单个像素。以数字1为例,如果大多数数字1都在某一位置上有黑像素、另一个位置上有几个白像素,那么机器只有在检查过这几个像素之后,才会做出决断。再说回停车标志。如果标志的某些像素出现了肉眼不易察觉的变化,即专家所说的“干扰”,机器就会将停车标志看成其它东西。

怀俄明大学与康奈尔大学的进化人工智能实验室开展了类似研究,使人工智能产生了一系列视觉幻觉。这些图片中的抽象图案和色彩在人眼看来毫无意义,计算机却能迅速将其识别为蛇或步枪。这说明人工智能“眼中”的物体可能与实际情况大相径庭。

各种机器学习算法都存在这一缺陷。“每种算法都存在其漏洞,”美国范德堡大学计算机科学与计算机工程助理教授叶夫提尼·沃罗贝琴科(Yevgeniy Vorobeychik)指出,“我们生活在一个极其复杂的多维世界中,而算法只能关注其中的一小部分。”沃罗贝琴科“坚信”,如果这些漏洞的确存在,迟早会有人研究出利用漏洞的方法。有些人可能已经这么做了。

打赏

相关阅读:

人工智能 机器学习
分享到:
阅读上文 >> 云空间内容和数据需求量大 人工智能需要落地
阅读下文 >> 哪些工作将被人工智能取代?

版权与免责声明:

凡注明稿件来源的内容均为转载稿或由企业用户注册发布,本网转载出于传递更多信息的目的;如转载稿涉及版权问题,请作者联系我们,同时对于用户评论等信息,本网并不意味着赞同其观点或证实其内容的真实性;


本文地址:http://www.aiquan.biz/Skill/show-3685.html

转载本站原创文章请注明来源:AI圈

推荐新闻

更多

行业专题

更多行业专题

VIP会员

微信“扫一扫”
即可分享此文章

Copyright © 2008-2018 Aiquan.biz All Rights Reserved

服务热线: ICP备案号: