学界 | Ian Goodfellow最新论文:是猫还是狗?不光神经网络识别不了,你也能被忽悠
根据胡子、鼻子较短判断,左边的似乎是猫。但是再看看右边,这明显是只狼狗吧(诡异的戴着蝴蝶结的狼狗orz)。但是这明明是一张图啊?怎么回事?
都是深度学习搞的鬼。
这是Ian Goodfellow大神2月22号最新论文里的成果。对抗性干扰,既能骗过神经网络,也能骗过人眼了。
先回忆一下我们是怎么忽悠神经网络的。
不久前,文摘菌发布过一篇关于如何利用一个小贴纸,让各大著名图像识别算法纷纷破功的文章(自带迷幻剂技能的小贴纸:忽悠神经网络,让它将一切都当作烤面包机!)。
加上这个五彩缤纷的小贴纸后,不论是什么图片,都会被神经网络识别成“烤面包机”。
原理其实很简单,我们在对图像处理时,为了简化图像本身的数据量,提取了图像的关键特征进行识别。当这个小贴纸加入后,它所携带的像素数据严重影响到了原来图像的关键特征,从而扰乱已经训练好的神经网络,导致识别结果


