ADVERSARIAL OCTOPUS：针对人脸识别引擎的攻击Demo
研究人员提出针对基于人工智能的人脸识别引擎的对抗攻击Demo。 近日，Adversa公司研究人员分析发现了攻击面部识别系统的新方法——ADVERSARIAL OCTOPUS。研究发现当前基于人工智能的面部识别工具易被攻击，可能会引发严重的后果。此外，许多面部识别系统都存在偏见，可能会产生错误的结果。 攻击细节 研究人员开发了一个针对人工智能驱动的人脸识别系统的攻击方式，只需将照片做出修改，就可以让人工智能系统错误识别为其他人。产生这种情况的原因是当前人脸识别算法和应用存在不足，攻击可以用于基于计算机视觉算法的投毒攻击场景和绕过场景等。 这种新型攻击可以绕过人脸识别服务、应用和API，其中包括当前最先进的人脸识别算法引擎——PimEyes。主要的特征是其融合了不同的方法来提高效率。 针对PimEyes的攻击框架是基于以下方法： 为提高可迁移性，用不同的面部识别模型以及随机噪声来进行训练; 为提高准确率，计算审计网络每层的对抗变化，并使用随机面部检测帧; 此外，还对每个像素进行微小变化，并使用特殊的函数来平滑对抗噪声。 攻击demo 研究人员提出的攻击方式是黑盒的、一次性成功的、静默的、可...
