首页 文章 精选 留言 我的
优秀的个人博客,低调大师

微信关注我们

原文链接:https://yq.aliyun.com/articles/204393

转载内容版权归作者及来源网站所有!

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

人工神经网络也有后门!

8月初,纽约大学教授希达斯·佳格测了下交通,然后在他工作的布鲁克林办公楼外的停车标志上贴了张黄色便利贴。他与两位同事向他们的路标检测软件展示该场景的照片时,该停车标志被误识别为限速的概率高达95%。 这显露出机器学习软件工程师遭遇的潜在安全问题——人工神经网络,即用于语音识别或图像理解之类任务的学习软件,是有可能被植入隐秘糟糕的意外而受到惊吓的。 坏人可将该行为设计成仅对特定秘密信号有反应,就像佳格的便利贴案例中的一样。随着对机器学习的兴趣在技术产业内外迅速发展,将神经网络工作外包给第三方,或者基于在线免费神经网络打造产品的方式变得更为常见。于是,对于想采取这两种方法的公司企业,此类“后门”就成问题了。但基本上,似乎没人考虑过这个问题。 停车标志已成为试图黑掉神经网络的研究人员的钟爱目标。上月,另一队研究人员演示了往标志上贴贴纸,可以混淆某图像识别系统。该攻击涉及到分析软件在感知周围环境中的意外故障。佳格的同事,同为纽约大学教授的多兰·嘉威特称,此后门攻击更加强大而致命,因为它可以精准触发,并选择对系统决策的确切影响。 不同的后门欺骗手段使得系统将停车指示牌分别识别为:停车、黄...

揭秘隐藏在非结构化数据背后的真相

本文讲的是 揭秘隐藏在非结构化数据背后的真相, 随着互联网技术的发展,大量非结构化数据逐渐走入人们的视野,数据科学家也开始将研究重点转移至非结构化数据。据Gartner预计,全球信息量每年的最低增长率为59%,其中有15%是结构化数据,其余的85%则由各种非结构化数据组成。在IDC的一项调查报告中也指出:企业中80%的数据都是非结构化数据,这些数据每年都按指数增长60%。 非结构化数据是指那些不方便用数据库二维逻辑表来表现的数据,包括所有格式的办公文档、文本、图片、XML、HTML、各类报表、图像和音频/视频信息等等。当这些非结构化数据不断增加的同时,也给数据库厂商、系统架构师、数据库管理员及其他开发人员带来了前所未有的挑战。本文出自Ram Subramanyam Gopalan的博客,他是Informatica公司的一位高级产品经理,文中介绍了那些隐藏在非结构化数据背后的真相。 如果能够将非结构化数据库像洋葱一样层层剥落,你将会了解到没有任何工具能够发现或分析出非结构化数据的结构,这就是非结构化数据谓之“非结构”的原因。 想要深入研究非结构化数据,就要先看看下面这张图片: 这些所谓的...

相关文章

发表评论

资源下载

更多资源
Mario

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长,特征是大鼻子、头戴帽子、身穿背带裤,还留着胡子。与他的双胞胎兄弟路易基一起,长年担任任天堂的招牌角色。

腾讯云软件源

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题,腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构,目前腾讯云软件源站支持公网访问和内网访问。

Nacos

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称,一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集,帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Rocky Linux

Rocky Linux

Rocky Linux(中文名:洛基)是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版,作为CentOS稳定版停止维护后与RHEL(Red Hat Enterprise Linux)完全兼容的开源替代方案,由社区拥有并管理,支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性,采用模块化包装和SELinux安全架构,默认包含GNOME桌面环境及XFS文件系统,支持十年生命周期更新。

用户登录
用户注册