裁掉数十名人工编辑后,微软的新闻 AI 翻车了
前段时间,微软解雇了约 50 名 MSN 新闻编辑,同时打算用日渐成熟的 AI 系统取而代之的消息引发广泛讨论,不少编辑同事都担心自己的饭碗将来也会被人工智能抢走。然而事情才过去没几天,微软的 AI 就翻车了。
据外媒报道,近日,微软新的人工智能发布软件推送了一篇文章,文中内容谈到种族主义对一位英国混血女歌手 Jade Thrilwall 的个人影响,但文中的配图却是 Jade 的队友 —— 另一位混血女歌手 Leigh Anne Pinnock 的照片。显然,该 AI 系统在人脸识别方面犯下了错误。
(右 1 为 Jade Thirlwall,右 2 为 Leigh Anne Pinnock)
Jade Thirlwall 是英国女子组合 Little Mix 的一员,近期在一档与“Black Lives Matter”相关的 BBC 访谈节目中,Jade 分享了自己在英格兰东北部南希尔兹一个以白人为主的社区环境下成长遭遇的不平等对待。她的外祖父母来自埃及和也门,而她因为阿拉伯血统而受到同龄人的欺负。
(Jade Thirlwall)
Jade 的这篇采访稿由《独立报》报道,并被微软旗下的 MSN.com 网站转载。该网站收录了来自全球各地的优质内容,内容原本由 AI 系统辅助数十名人工编辑混合校审,然后发表。MSN.com 网站过去有数十名人工编辑策划,他们负责挑选故事、新闻和图片在网站上发表,直到上个月微软宣布裁掉约 50 名人工编辑。微软认为,原本辅助编辑们完成这一系列工作的 AI 发布系统完全有能力单独胜任这项工作。
外界将 MSN 的这一错误归咎于微软的 AI 算法不可靠。值得一提的是,《卫报》媒体编辑吉姆·沃特森(Jim Waterson)声称,MSN 正试图阻止 AI 编辑选择《卫报》上这篇出现配图错误的文章,MSN 的工作人员也被告知等待《卫报》这篇文章的发表,并尝试从网站上手动删除它,因为微软的 AI 机器人编辑很有可能会认为这是 MSN 读者感兴趣的内容。
而微软方面则否认这一错误是由于「不可靠」的人工智能造成的,称其是自动发布软件的一项新功能的逻辑出了问题。“虽然消除偏见和提高准确性仍然是人工智能研究的一个重点领域,但这一错误并不是这些问题造成的。”微软的一位发言人在周二的一次采访中解释说,“只是我们在测试中的一个图片替换功能出了一些问题,但我们很快关闭了这一功能,并修正了图片的错误。”
然而,这个小小的误会并没有被忽视。Jade Thirlwall 本人在社交平台上发帖指责了 MSN 的错误:“这件事发生在 Leigh Anne Pinnock 和我身上已经很多次了,一直以来都有媒体把我们弄混,这几乎成了一个恶作剧。你们不能在一个团体的四个成员中区分出两个有色人种的女人,这让我很生气!”
事实上,目前的 AI 人脸识别技术确实在肤色、性别方面存在一定的偏见。有研究表明,微软的 AI 人脸识别技术虽然准确率已经接近 100%(仅限于白人男性),但在识别肤色较深的人种时准确率仍只有 79.2% ~ 94%。而就在两天前,另一 IT 巨头 IBM 宣布放弃所有人脸识别相关技术业务,指出人脸识别技术存在肤色、性别偏见,旨在声援日渐加深的种族歧视问题。值得一提的是,IBM 的 AI 人脸识别技术在识别肤色较深的人种时准确率只有 65.3% ~ 88%。
近期,随着 “Black Lives Matter” 运动在欧美地区的迅速发酵,其影响力也辐射到了包括 AI 在内的技术领域。比如有国外专家认为编程语言中的主-从(master-slave) 关系是一种压迫性的比喻,Blacklist 等类似名词包含对黑人的歧意等。包括谷歌在内的一些互联网公司已经开始着手处理这些问题,主动更改项目代码中的一些歧义描述,尽管这些代码语句已经被人们沿用了数十年。
低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。
持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。
转载内容版权归作者及来源网站所有,本站原创内容转载请注明来源。
- 上一篇
Ubuntu 安装工具 Ubiquity 开始添加 ZFS 加密支持
对于将在10月发布的 Ubuntu 20.10 新系统,不少用户希望看到的变化之一是以简单易用的方式支持 ZFS 加密,并扩展至支持其现有的 OpenZFS 文件系统。 目前已出现应用 ZFS 加密支持的程序,该支持构建于OpenZFS 加密功能的基础上,但可以通过 Ubuntu 的"Ubiquity"桌面安装程序轻松部署。 代码提交记录显示,Ubiquity 的 commits 增加了新的选项,除了执行实验性的 ZFS 安装外,还可以启用加密功能,启用后会提示输入安全密钥,类似于 Ubuntu 安装程序一直以来提供的 EXT4+LZM 加密安装。 此外还增加了对 ZFS 系统加密交换(encrypted swap)的支持。
- 下一篇
高校应拥抱开源,哈工大等国内高校被禁用 MATLAB
哈工大、北航等国内高校被禁止使用 MATLAB,这件事在国内社交媒体迅速发酵并登上热搜,引发学术界和技术界的广泛讨论。 持续加深的技术封锁 上个月,美国商务部宣布将新增33 家中国公司及机构列入“实体清单”,除了奇虎360、云从科技、烽火科技等企业外,还包括中国公安部法医科学研究所等政府相关机构,以及哈尔滨工业大学和哈尔滨工程大学两所高校。至此,中国大陆共有 13 所高校被列入该实体清单,除上述两所外,还有:中国人民大学、北京航空航天大学、西安交通大学、西北工业大学、四川大学、电子科技大学、湖南大学、国防科技大学、同济大学、南昌大学、广东工业大学。 这些高校将被美国《出口管理条例》限制出口、进口或转口,无法和美国进行任何商业交易,在获得美国科技方面面临新的限制。它们和去年被列入清单的华为、中兴等中国企业一样,和美国企业之间的进出口业务需要美国政府的批准,也就是所谓的“技术制裁”。迫于政府的压力,MATLAB 所属公司 MathWorks 被迫中止对这些国内高校的正版授权。 虽说能上这份清单的组织机构都不简单,至少证明其科研实力得到了美国的重视。但当这些我们常用的基础软件真的被别人卡脖子...
相关文章
文章评论
共有0条评论来说两句吧...
文章二维码
点击排行
推荐阅读
最新文章
- Docker使用Oracle官方镜像安装(12C,18C,19C)
- CentOS8编译安装MySQL8.0.19
- CentOS8,CentOS7,CentOS6编译安装Redis5.0.7
- SpringBoot2整合MyBatis,连接MySql数据库做增删改查操作
- SpringBoot2整合Redis,开启缓存,提高访问速度
- SpringBoot2配置默认Tomcat设置,开启更多高级功能
- Hadoop3单机部署,实现最简伪集群
- CentOS7,CentOS8安装Elasticsearch6.8.6
- CentOS6,7,8上安装Nginx,支持https2.0的开启
- SpringBoot2编写第一个Controller,响应你的http请求并返回结果