UIUC说对抗样本出门会失效,被OpenAI怼回来了!
雷锋网 AI科技评论按:看来,我们还是不能对对抗样本问题掉以轻心。
上周,来自UIUC的一篇论文表示,当图像识别算法应用于实际生活场景下(比如自动驾驶)时,可能不需要那么担心对抗样本问题。他们做了一系列实验,从不同角度和方向拍下受到干扰的停车标志的图片,将图像进行识别,结果表明,现有的对抗性干扰只在特定场景下适用。
关于那篇论文,雷锋网之前有相关发文:UIUC最新研究:对抗性样本是纸老虎,一出门就不好使!
而近日,针对UIUC的论文,OpenAI表示,他们已经生成了一些图像,当从不同大小和视角来观察时,能可靠地愚弄神经网络识别器。雷锋网 AI科技评论编译如下:
目前的对抗样本在图像不断变化的情况下失效了。上图展示了受到对抗干扰的小猫图片,在经ImageNet训练的Inception v3上会被错误地识别为台式电脑。但将图片仅仅放大1.00
