在图片中加入噪点就能骗过 Google 最顶尖的图像识别 AI-低调大师

在图片中加入噪点就能骗过 Google 最顶尖的图像识别 AI

2017-06-01 598

近期，一群来自华盛顿大学网络安全实验室（NSL）的计算机专家发现，恶意攻击者可以欺骗Google的CloudVision API，这将导致API对用户提交的图片进行错误地分类。

近些年来，基于AI的图片分类系统变得越来越热门了，而这项研究针对的就是这种图片分类系统。现在，很多在线服务都会采用这种系统来捕捉或屏蔽某些特殊类型的图片，例如那些具有暴力性质或色情性质的图片，而基于AI的图片分类系统可以阻止用户提交并发布违禁图片。

虽然这种分类系统使用了高度复杂的机器学习算法，但是研究人员表示，他们发现了一种非常简单的方法来欺骗Google的Cloud Vision服务。

Google的Cloud Vision API存在漏洞

他们所设计出的攻击技术其实非常简单，只需要在一张图片中添加少量噪点即可成功欺骗Google的Cloud Vision API。其中的噪点等级可以在10%到30%范围内浮动，同时也可以保证图片的清晰度，而且这足以欺骗Google的图片分类AI了。

7f474e649bade00c7e2fd3e003c54cac4b46bfa8

向图片中添加噪点其实也非常的简单，整个过程并不需要多么高端的技术，一切只需要一个图片编辑软件即可实现。

研究人员认为，网络犯罪分子可以利用这种技术来传播暴力图片、色情图片或恐怖主义宣传图片。除此之外，Google自己的图片搜索系统也使用了这个API，这也就意味着，当用户使用Google进行图片搜索时，很可能会搜索到意料之外的图片。

解决这个问题的方法很简单

研究人员表示，修复这个问题其实跟攻击过程一样的简单，所以Google的工程师们完全没必要紧张。

为了防止这种攻击，Google只需要在运行其图片分类算法之前，对图片中的噪点进行过滤就可以了。研究人员通过测试发现，在噪点过滤器的帮助下，Google的Cloud Vision API完全可以对图片进行适当的分类。

efd27748bccbfe0718268bef379d8287472e68a4

后话

研究人员已经将这种攻击的完整技术细节在其发表的论文中进行了描述，感兴趣的用户可以阅读这篇论文【传送门】。已经值得注意的是，这群研究人员在此之前也使用过类似的方法来欺骗Google的Cloud Video Intelligence API【参考资料】。注：他们在一个视频中每两秒就插入一张相同的图片，最后Google的视频分类AI会根据这张不断重复出现的图片来对视频进行分类，而分类的依据并不是视频本身的内容。

本文来自开源中国社区 [http://www.oschina.net]

微信关注我们

原文链接：https://yq.aliyun.com/articles/114101

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

百度开源其关键人工智能系统 WARP-CTC

百度硅谷 AI 研究所 (SVAIL) 今天开源了百度的关键人工智能 (AI) 软件 WARP-CTC，基于 Apache 协议，WARP-CTC 的 C 语言库和可选 Torch 绑定都已托管到 GitHub WARP-CTC 基于 CTC 方法，当前可用的一些 CTC 实现通常要求大量的内存或者是慢十到几百倍。百度研究所首席科学家 Andrew Ng 称他的研究主要是人工神经网络如何在图形处理单元 (GPUs) 上运行，让 WARP-CTC 实现对 GPUs 和 x86 CPUs 的支持。 connectionist temporal classification (CTC) 方法可以追溯到 2006 年，在 Swiss AI 研究所 IDSIA 论文上有记录。百度研究所开发的 WARP-CTC 就基于 CTC 方案，但是改进了其自身的语音识别功能。 CTC 方法包括递归神经网络 (RNNs)，在深度学习的 AI 上越来越常用。递归神经网络已经被证实可以在嘈杂的环境下很好的运行。 Facebook, Google 和 Microsoft 等等一些大科技公司都相继开源了他们的 A...

2017-06-02

663

昨天，2017年YunOS开发者大会在上海召开，在会上，YunOS官方正式发布了YunOS 6操作系统。 YunOS是是阿里巴巴集团旗下智能操作系统，融合了阿里巴巴在云数据存储、云计算服务以及智能设备操作系统等多领域的技术成果，并且可搭载于智能手机、智能穿戴、互联网汽车、智能家居等多种智能终端设备。按照官方说法，全新架构的YunOS 6拥有高效的系统内核、基于云的应用框架及先进的安全机制。新系统实现了15秒闪电开机，应用冷启动时间缩短200%以上，以智能调度实现低功耗省内存，避免系统“越用越慢”。同时，YunOS 6全新开发框架（CAF）深度结合云能力，基于更强大的Javascript语言，开发无需安装、极简传播，云端一体的CloudApp，并全面支持包括语音识别、图像智能、位置服务在内的机器智能。在渲染方面，结合手机屏幕越来越高清、尺寸越来越大的趋势，重新思考设计范式，让图标自下而上排列，充分发挥每一个像素的价值，增加新特性同时，内存使用效率提升40%，续航提升25%。在图像方面，YunOS可以在单镜头下实现双摄效果，降低产业成本；支持可定制的VR素材，让用户充分融入到创作...

2017-06-02

528

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。