Science发布最疯癫视频!AI守门员以最搞笑的方式让对手抓狂
云栖号:https://www.aliyun.com/#module-yedOfott8
第一手的上云资讯,不同行业精选的上云企业案例库,基于众多成功案例萃取而成的最佳实践,助力您上云决策!
来源:Science,Nature
编辑:向学、张佳
近日,Science发布了一个AI疯癫发作的视频,AI守门员以最搞笑的方式让对手抓狂,AI相扑变成大型碰瓷现场。这项研究表明,AI太好骗,不仅会被“骗”去看一些不该看的东西,还会被“骗”去做一些不该做的事情!
人工智能一直被视为学习能力极强、学习速度极快的“超级物种”,秒杀人类不解释、无商量;无论是在国际围棋比赛,还是在星际争霸游戏对决,均多次战胜人类顶级选手,所向披靡,不可一世。
但最近,Science发布了一个AI视频颠覆了大家对AI的认知,纵然是“聪明绝顶”的AI,也很容易被“坏朋友”带歪,变得让人啼笑皆非。
视频中,“小红人”和“小蓝人”看似是“癫痫发作”,其实是在展示一个人工智能(红色)以一种意想不到的方式战胜另一个人工智能(蓝色)。
这是发表在NeurIPS(Neural Information Processing Systems)2019 上的一项研究。这项研究是在模拟运动中进行的:足球、相扑及某人阻止跑步者越线的游戏。通常这2个竞争对手都是通过互相比赛来训练的。
小红人假装倒地迷惑小蓝人(足球运动)
在上面这个动图中,小蓝人本来要射门,但一看到守门员小红人倒了,自己也抽搐起来,简直像癫痫发作,连球都够不到了。
小红人假装倒地迷惑小蓝人(相扑运动)
这张动图中,两个AI本来应该相扑(也可能是摔跤),小红人先来个假摔,小蓝人见势也马上跪倒了,简直是上演了一场“碰瓷”大戏。
小红人假装倒地迷惑小蓝人(阻止越线)
这张动图中,小红人本应该阻挡小蓝人“越红线”,但小红人没能抱住小蓝人的大腿,让小蓝人绕过去了,眼看着小蓝人要突破红线,小红人扑通一声跪倒在地,小蓝人也跟着倒下了,未能突破红线。
被小红人这样干扰后,小蓝人输掉的游戏次数竟然是正常情况下的2倍!
这项新研究表明,AI很容易被骗,不仅会被“骗”去看一些不该看的东西,还会被“骗”去做一些不该做的事情。想象一下假如用到自动驾驶,会有多么危险?
微小改变就能愚弄AI,AI距离真正的“聪明”还有点远
让人工智能变得“更聪明”的一个方法是让其从环境中学习。例如,未来的汽车可以获得更多的“经验”,进而更好地“阅读”路牌并避开行人。但这正好也是黑客用来“愚弄”人工智能的“惯用伎俩”,他们可以利用这些系统进行“对抗性攻击”,比如通过精巧地修改图像就可以“愚弄”人工智能,一个带有几张贴纸的停车标志可能会被人工智能系统视为限速标志(这肯定会让自动驾驶汽车公司在微风中瑟瑟发抖!)。
利用贴纸,图像识别算法将停车标志认作限速标志
在一次国际机器学习会议(International Conference on Machine Learning ,ICML)上,一个研究团队报道了他们的3D打印乌龟。对于人类来说,它看上去就像一只乌龟;但对于人工智能,它们却有着不同的看法——在大多数时候,人工智能会认为这像是一支步枪!
利用难以察觉的元素,对抗性攻击欺骗图像识别算法,使其将3D打印乌龟认作步枪
在下面这张图中,用机器学习模型识别最左侧的图像,可以正确识别出来这是一只熊猫。但是在图像中增加了中间所示的噪声之后得到的右侧图像,竟然被模型识别成一只长臂猿(而且置信度还非常高)!
这说明,对输入的改变——以人类通常察觉不到的微小改变的形式——就可能会扰乱最好的神经网络,进而改变模型的预测结果。
AI如此好骗,你怎么看?
参考资料:
https://www.sciencemag.org/news/2019/12/watch-ai-goalie-psych-out-its-opponent-most-hilarious-way
https://www.nature.com/articles/d41586-019-03013-5#ref-CR1
原文发布时间:2019-12-29
本文作者:编辑:向学、张佳
本文来自阿里云云栖号合作伙伴“新智元”,了解相关信息可以关注“新智元”
云栖号:https://www.aliyun.com/#module-yedOfott8
第一手的上云资讯,不同行业精选的上云企业案例库,基于众多成功案例萃取而成的最佳实践,助力您上云决策!
低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。
持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。
转载内容版权归作者及来源网站所有,本站原创内容转载请注明来源。
- 上一篇
标记 (TAG) 您的 k8s 集群资源
标签的基本知识 标签是资源Meta信息,标签是一些充当元数据的词和短语,支持用户自定义和系统预制。每个标签都包含一个键(Key)和一个值(Value)。标签是一种资源的属性描述。 标签与资源是 多对多的关系。 标签可让您按各种标准(例如用途、所有者或环境)对 阿里云 资源进行分类。这在您具有相同类型的许多资源时会很有用,您可以根据分配给资源的标签快速识别特定资源。 标签对阿里云资源没有任何语义意义,应严格按字符串进行解析。同时,标签不会自动分配至您的资源。您可以修改标签的key和value,还可以随时删除资源的标签。您可以将标签的值设为空的字符串,但是不能将其设为空值。如果您添加的标签的值与该实例上现有标签的值相同,新的值就会覆盖旧值。如果删除资源,资源的所有标签也会被删除。 可以使用管理控制台 和 API 处理标签。 标签设计详情见最佳实践
- 下一篇
详解淘宝直播背后的技术!
云栖号:https://www.aliyun.com/#module-yedOfott8第一手的上云资讯,不同行业精选的上云企业案例库,基于众多成功案例萃取而成的最佳实践,助力您上云决策! 在移动网络、云计算、人工智能等技术发展的驱动下,直播成为当今时代的一个电商新物种。而该领域发展至今,无论是从量级上,还是技术上,作为行业中的佼佼者——淘宝直播,一直以来,都备受技术人的关注。 在阿里文娱2019双11猫晚技术沙龙中,来自淘系技术部高级无线技术专家长孙泰带来了淘宝直播的主题分享,从双11的场景中,看淘宝直播的趋势(强实时互动、内容电商)、淘宝直播电商互动探索(低延时、连麦以及电商营销AI互动)、电商直播未来思考(5G+直播)。 与此同时,长孙泰还基于以下几个角度进行了深度的阐述: 电商直播在双11的表现以及在内容生态里面的定位; 直播互动在淘宝的实践,直播本身是一个特别强互动的场景,本质上就是把线下场景还原到线上的过程; 分享近期的思考,尤其上5G来了之后的一些思考。 作者 | 淘系技术部高级无线技术专家长孙泰责编 | 屠敏 以下为演讲实录: 1.2019年淘宝直播的双11 2019年...
相关文章
文章评论
共有0条评论来说两句吧...
文章二维码
点击排行
推荐阅读
最新文章
- SpringBoot2整合Redis,开启缓存,提高访问速度
- SpringBoot2全家桶,快速入门学习开发网站教程
- CentOS7编译安装Gcc9.2.0,解决mysql等软件编译问题
- CentOS7,8上快速安装Gitea,搭建Git服务器
- CentOS7编译安装Cmake3.16.3,解决mysql等软件编译问题
- 设置Eclipse缩进为4个空格,增强代码规范
- CentOS8编译安装MySQL8.0.19
- Docker使用Oracle官方镜像安装(12C,18C,19C)
- Docker快速安装Oracle11G,搭建oracle11g学习环境
- CentOS8,CentOS7,CentOS6编译安装Redis5.0.7