hg0088 - hg0088最新网址为您提供最新的网址行业新闻、家电企业新闻、hg0088新品动态、足球渠道资讯,是您了解国内外网址体育行业动态,hg0088最新网址市场前沿的第一网络平台。

人脸识别种族偏见:黑黄错误率比白人高100倍

  • 时间:
  • 浏览:3

关注前沿科技 量子位

赖可 发自 亚龙湾没错,美国人脸识别系统最爱的是:白人中年男性

你这种非裔、亚裔族群,识别率就没没法高了。

这周四,美国NIST发布的研究报告给出了原来的结果。

甚至在你这种算法中,亚裔和非裔美国人被误认的前一天性比白人高30倍。

对于一向“政治正确”先行的美国,可想而知该结果带来的“爆炸性”。

还4个多 有趣的结果,像来自商汤、旷世原来的亚洲算法,白种人和黄种人之间的误判差距就小你这种。

美国官方机构权威检测

这项研究由美国国家技术标准研究院NIST进行,检查了人脸识别软件在不同种族、性别、年龄上算不算有差异。

研究检查了由99家公司,学术机构和你这种开发人员自愿提交的189种算法。包括了大多数业界领先的系统,来自主要的技术公司和承包商,包括Idemia,英特尔,微软,松下,商汤和 Vigilant Solutions。

亚马逊没法提交检查,CNN Business从NIST处得知,亚马逊认为本人的软件和该检测不相容。亚马逊的人脸识别软件Rekognition出售给了俄勒冈州警方,用于嫌疑人追踪。

量子位查阅这次提交检查的公司名单,发现没法谷歌

原来有黑人兄弟发现本人被谷歌的算法识别成”大猩猩“,谷歌公司的整改妙招是:把识别类别中的”大猩猩“换成了。(可戳量子位前一天的文章:为了不把黑人兄弟认作大猩猩,谷歌的算法连真的大猩猩还会认识了)

检测结果

1、在一对一匹配中,相较于白人,亚裔和非裔的人脸识别错误率要高10到30倍。(不同算法不同)

2、在所有种族中,美洲原著民的假阳率最高;一对多匹配,非洲裔美国老婆的假阳性率更高。

3、年龄和性别因素。老年人和儿童更容易被识别错,老婆比男性容易被识别错。中年白人准确率最高。

4、不同国家开发的算法表现不同。美国开发的算法中,亚裔、非裔和土著的错误率很高。亚洲开发的算法中,白人和亚洲人的错误率差距较小。

“偏见”还有长尾影响

根据人脸识别的使用场景和功能,检测分为一对一匹配和一对多匹配:

一对一匹配一般用于手机人脸解锁或护照检查。

一对多匹配用于选则某张照片算不算在4个多 数据库含有匹配项,4个多 劲用于警察搜索嫌疑人。

一对一匹配再次出现 错误前一天会由于人脸无法解锁,给生活带来麻烦。因此一对多匹配的错误前一天后果更严重,就会让警察把无辜的人列入嫌疑名单。

这份报告的主要作者Patrick Grother表示,

亲戚亲戚当你们歌词 研究的大多数面部识别算法中都指在人口统计学差异的证据。尽管亲戚亲戚当你们歌词 不探由于,但你这种数据对于决策者、开发人员和最终用户在考虑你这种算法的局限性和适当使用妙招时将是有价值的。

这还会第一份研究显示出人脸识别含有偏见

类似于,去年MIT实验室的一项研究也得出了类似于的结果。

凡遇到肤色较暗的人种以及老婆,识别的错误率就增加。

亚马逊等公司前一天批评了你这种研究,称你这种研究使用了过时的算法,前一天是系统使用不当。

在美国你这种地区,对于人脸识别已有禁令

旧金山、奥克兰以及马萨诸塞州的4个多 城市萨默维尔和布鲁克莱恩,在今年已通过了禁止公职人员使用面部识别的条款。加利福尼亚州禁止在警用摄像头中使用人脸识别软件。

这次研究结果,再次引起美国国会议员对于人脸识别技术的监管讨论。亲戚亲戚当你们歌词 要求川普政府重新考虑扩大人脸识别使用的计划。

美国俄勒冈州的参议员Ron Wyden在一份声明中说,

任何部署新技术的公司或政府有责任仔细检查其产品算不算指在偏见和歧视,大慨要在软件中彻底检查算不算有Bug。

男友讨论:讲伦理也要讲技术现状

有男友尝试对”白人的正确率高“你这种结果进行解释。前一天是白人的面部形态学 差异(比如眼睛和头发的颜色)四种 就比较大?

还有少数族裔的男友现身说法,讲了本人被“人脸识别”唤醒“童年创伤”的故事:

在机场的CLEAR系统4个多 劲识别沒有他,他不得不进入TSA Pre-Check。TSA检查时需涉及背景和指纹检查。这让人重新经历童年时期亲戚亲戚当你们歌词 和老师认沒有他的痛苦。

即使现在,当咖啡师看着他想不起来他的订单时,他依旧会体验到激烈的情绪。

现在他知道这还会他的什么的问题,却说 他身上原住民血统的由于。

亲戚亲戚当你们歌词 生活在4个多 充满偏见的世界,而新技术的到来,会放大现实世界的偏见吗?

参考资料

https://www.nist.gov/news-events/news/2019/12/nist-study-evaluates-effects-race-age-sex-face-recognition-software

https://www.washingtonpost.com/technology/2019/12/19/federal-study-confirms-racial-bias-many-facial-recognition-systems-casts-doubt-their-expanding-use/

https://edition.cnn.com/2019/12/19/tech/facial-recognition-study-racial-bias/index.html

http://gendershades.org/overview.html

新闻推荐

“驴象”斗法川普“中弹” 特朗普遭美国会众议院弹劾

新华社华盛顿12月18日电(记者孙丁徐剑梅)由民主党人掌控的美国国会众议院18日表决通过两项针对总统特朗普的弹劾条款,正式指...