IBM 全面停止 AI 人脸识别相关技术业务
近日,IBM 公司宣布停止提供人脸识别技术的相关服务,因为担心这项技术可能被用来促进种族和性别歧视。
IBM 首席执行官 Arvind Krishna 在一份递交到美国国会的公开信中写道:“IBM 坚决反对将任何技术用于大规模监视、种族定性、侵犯基本人权和自由,或任何与我们的价值观、信任和透明原则不符的目的。”
显然,IBM 此举旨在响应在美国愈演愈烈的反种族歧视运动“Black Lives Matter”。Arvind 在信中还呼吁国会出台相关国家政策,鼓励采用警员佩戴摄像头(类似行车记录仪)和数据分析等技术,引入适当的问责制度,让执法工作更透明。
目前,美国少数城市已经禁止使用面部识别技术。去年,旧金山、奥克兰和圣地亚哥等城市相继禁止使用面部识别技术,理由是这项技术存在局限性,在使用方面缺乏标准,还助长了对少数人种的潜在偏见。
人脸识别技术的发展
很难相信,这项十年前还常常出现在科幻电影中的技术,如今离我们的生活如此接近。事实上,人们在上世纪 60 年代就开始了对人脸识别技术的探索。彼时,人脸识别之父 Bledsoe 开发了一种系统,该系统可用计算机辅助人们手动记录各种面部特征(包括眼睛,鼻子,发际线和嘴巴)的坐标位置,然后将这些坐标数据插入数据库中。当为系统提供某人的新照片时,它能够从数据库中检索与之最相似的图像。这就是最早的人脸识别系统。可惜的是,受到当时的技术和计算机处理能力的限制,这项技术并没有得到大规模的应用。但该系统成功证明了面部识别是可行的生物特征识别技术,迈出了人脸识别技术重要的第一步。
随着计算机硬件性能的飞跃,研究者不断地突破人脸识别系统的上限,但成功率一直无法实现大规模商用。直到 2014 年前后,大数据和深度学习的发展掀起了新时代 AI 热潮,神经网络重受瞩目,并在图像分类、手写体识别、语音识别等应用中获得了远超经典方法的结果。来自香港中文大学的研究团队提出将卷积神经网络应用到人脸识别上,采用 20 万训练数据,在 LFW 上第一次得到超过人类水平的识别精度,这是人脸识别发展历史上的一座里程碑。自此之后,人脸识别技术与机器学习绑定,研究者们不断改进机器学习算法,同时扩大训练样本规模,将 LFW 上的识别精度推到99.5%以上。人脸识别发展过程中一些经典的方法及其在 LFW 上的精度,都有一个基本的趋势:训练数据规模越来越大,识别精度越来越高。
人脸识别中的偏见
在过去的十年中,得益于人工智能的发展,人脸识别软件有了很大的进步。同时,由于该技术通常是由私营公司提供的,缺少相关法律法规的限制和政府部门的监管。因此,有调查显示这项技术存在种族、性别偏见,这会使该工具在执法过程中的可靠性大打折扣,存在侵犯公民合法权利的风险。
2018 年,Joy Buolamwini 和 Timnit Gebru 的研究首次揭示了许多商业人脸识别系统(包括 IBM 的)有多大的偏见。该研究测试了三款来自不同地区公司的主流人脸识别软件,人物面部素材来自 3 个非洲国家和 3 个欧洲国家的志愿者,研究人员把素材按照肤色、性别来进行交叉分类。研究结果显示:
- 所有人脸识别软件对男性的识别成功率都比女性更高,错误率相差 8.1%~20.6%
- 所有人脸识别软件对浅肤色的人脸识别成功率比深肤色的更高,错误率相差 11.8%~19.2%
综合各分类的人脸识别成功率如下:
综合对比显示,各人脸识别软件对浅肤色男性的人脸识别成功率最高,对深肤色女性的人脸识别成功率最低,正确率差距最高达到 34.4% 。
也就是说,在这些已经大规模商用的人脸识别软件应用场景下,黑人女性有 20%~30%的概率被识别错误,产生一定的误会。如果是在警用安保等使用场景下,发生误会的后果可能会非常严重。
这项研究工作引起了外界对这些人脸识别算法的批评,各大科技公司也为纠正偏差进行了持续的调查研究。例如,美国国家标准技术研究院(National Institute of Standards and Technology)于 2019 年12 月进行的一项研究发现,“在大多数当前评估的人脸识别算法中,跨人种差异确实存在广泛的准确性偏差”。除了对人种、性别的识别偏差外,人脸识别技术还因其在侵犯隐私方面的问题而受到抨击。
从今年初开始,另一家美国的人脸识别技术公司 Clearview AI 受到了严密的审查,因为有关部门发现其面部识别工具由超过 30 亿张图像(大部分是通过抓取社交媒体网站收集的)构建而成,并且已被很多企业广泛使用。自那以来,Clearview 公司已被执法部门责令停业,并且面临多项侵犯公民隐私的诉讼。今年 1 月份,Facebook 也因其非法使用面部识别技术遭到检方起诉,面临 5.5 亿美元的罚款。
人脸识别的未来
这一次蓝色巨人 IBM 宣布放弃人脸识别业务的决策,也给野蛮生长的人脸识别产业踩下了一脚急刹车,把人们的注意力集中到技术背后的问题上来,比如人权平等、隐私保护等。各项研究表明,目前的人脸识别技术仍存在一定的缺陷。
不同于 5G 等新技术,AI 在诞生之初就被人们视为一把双刃剑。无论是前段时间饱受争议的 Deepfake,还是如今处境尴尬的人脸识别,人们对于 AI 技术带来的社会、伦理问题的担忧从未停止。但还是那句话,“菜刀可以用来做菜,也能用来伤人”,技术本身是无罪的,一切都取决于使用技术的人。相信在这项技术完全成熟以后,人脸识别仍然能够在一些人类需要的场景下发光发热。
低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。
持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。
转载内容版权归作者及来源网站所有,本站原创内容转载请注明来源。
- 上一篇
云计算或在两年内推动微软市值突破 2 万亿美元
过去的几个月中,华尔街的一些分析师纷纷开始关注苹果、微软以及亚马逊谁能率先突破 2万亿美元市值的大关。 Motley Fool指出,来自富国证券的分析师菲利普·温斯洛(Philip Winslow)最近也加入了争论。他认为,微软的市值将在未来两年内达到 2 万亿美元;并且在此过程中其股价将被推高至 283 美元。这意味着,微软或将超越苹果,成为世界上第一家市值达到 2 万亿美元的公司。 微软的市值在 2019 年 4 月突破 1 万亿美元,当前市值为 1.44 万亿美元。苹果和亚马逊的市值则相继在 2018年 8月和 9月突破了 1 万亿美元。当前苹果的市值为1.49 万亿美元,亚马逊则为1.30 万亿美元。 温斯洛认为,微软在云计算方面的进步已经使微软的股票攀升至了一些高峰,并将在未来几年继续保持这种势头。大流行表明,没有云战略是许多企业失败的原因。随着越来越多的公司开始数字化转型,微软将继续缩小与 AWS 的差距,扩大与 Google Cloud 的竞争优势。 如果微软在接下来的几年中继续其整体收入增长约 14%,同时实现每股收益和自由现金流增长约 17%,那么它将有一条通往 2 ...
- 下一篇
18个值得推荐的学习Python和SQL的数据科学平台
数据科学是当今市场上最热门的职业之一。 公司一直在聘用数据科学家,并且总是有很多人试图成为一名科学家。 但是,数据科学的发展不及其他技术学科那么长,因此与软件开发不同的是,没有专门针对数据科学的学习平台来帮助有抱负和经验丰富的科学家培养。 当然有Coursera和Udemy,然后是一些知名品牌平台,例如DataCamp。 然后有十二个或更多个较小的利基平台,旨在以自己的方式培训数据科学家。 我评估了数据科学界人士推荐的18种平台。 根据您的学习风格和需求,这里有一个平台。 本文的前半部分是我对平台的最终评估,最后是平台的完整列表以及所有有助于评估它们的细节。 本文的下半部分详细介绍了我评估平台的方法-了解不同的用户类型,采购平台和要评估的变量。 因此,如果您有时间,请先跳到最后以了解我的评估标准,然后阅读结果。 如果时间紧迫,请转到下一部分。 TL; DR:我的评估 我创建了2个图来映射变量。 它们是带有您在所有白皮书中看到的象限的那些图。 老实说,我为选择这种可视化感到有些ham愧(感觉就像在Excel中制作3D饼图),但是我认为它将使您快速确定最适合您的平台。 图1:学习风格和经验...
相关文章
文章评论
共有0条评论来说两句吧...
文章二维码
点击排行
推荐阅读
最新文章
- CentOS8编译安装MySQL8.0.19
- CentOS7,CentOS8安装Elasticsearch6.8.6
- CentOS7安装Docker,走上虚拟化容器引擎之路
- Eclipse初始化配置,告别卡顿、闪退、编译时间过长
- Mario游戏-低调大师作品
- 2048小游戏-低调大师作品
- SpringBoot2初体验,简单认识spring boot2并且搭建基础工程
- SpringBoot2编写第一个Controller,响应你的http请求并返回结果
- SpringBoot2整合MyBatis,连接MySql数据库做增删改查操作
- SpringBoot2整合Thymeleaf,官方推荐html解决方案