顶级面部识别算法的联邦研究发现偏见的“经验证据”

错误率受种族，年龄和性别的影响

一项新的联邦研究发现，世界上许多顶级面部识别算法都存在年龄，种族和民族的偏见据该研究由美国国家标准与技术研究院，目前在市场上销售的算法可以误认某些群体的成员高达100倍更频繁等

NIST 表示，它发现了经验证据，表明诸如年龄，性别和种族等特征会影响大多数算法的准确性该小组测试了来自 99 个组织的 189 种算法，这些算法共同为全球使用的大多数面部识别系统提供支持

调查结果提供了更多证据，表明世界上许多最先进的面部识别算法尚未准备好用于执法和国家安全等关键领域据《华盛顿邮报》报道，立法者称这项研究令人震惊 ，并呼吁美国政府重新考虑使用该技术保护其边境的计划

立法者称结果令人震惊

该研究测试了一对一检查，用于将某人与护照或身份证进行匹配，以及一对多搜索，将某人与更大数据库中的单个记录进行匹配非裔美国女性在一对多搜索中最常被错误识别，而亚洲人，非裔美国人，美洲原住民和太平洋岛民在一对一搜索中都被错误识别儿童和老人被误认的也较多在某些情况下，亚裔和非裔美国人被误认的次数是白人男性的 100 倍准确率最高的通常是中年白人男性

NIST 研究依赖于组织自愿提交其算法进行测试但名单中没有亚马逊，它向当地警方和联邦调查人员出售其 Rekognition 软件之前的 研究引起了人们对亚马逊系统准确性的担忧，人工智能研究人员呼吁该公司停止销售其有缺陷的系统亚马逊声称 NIST 的测试无法轻松分析其软件，并且其股东拒绝了限制 Rekognition 销售的呼吁

专家表示，可以通过使用更多样化的训练数据集来减少这些算法中的偏差研究人员发现，例如，在亚洲国家开发的算法在白人和亚洲人面孔之间的错误率上没有那么大的差异

可是，当以不尊重人们安全或隐私的方式使用该技术时，即使解决偏见问题也不能解决面部识别的所有问题。

开发面部分析技术然后武器化有什么好处 带头调查面部识别偏见的 AI 研究员 Joy Buolamwini去年告诉The Verge技术考虑不能脱离社会影响

作为移动媒体视觉实践及其与社会不平等的历史联系的研究人员，我定期探索用户行为如何围绕隐私和身份等问题建立或改变规范。在这方面，人脸分析系统和产品在我们日常生活中的采用和使用可能会达到一个危险的临界点。