美国政府研究发现面部识别系统存在种族偏见

 
根据美国政府周四发布的一项研究，许多面部识别系统比白人更容易识别有色人种，这很可能会增加对执法机构广泛使用的技术的怀疑。
美国国家标准技术研究院(NIST)的研究发现，当进行一种称为“一对一”匹配的特定类型的数据库搜索时，许多面部识别算法会错误地识别10至100次非裔美国人和亚洲人的面孔比白种人的面孔更常见。
该研究还发现，在“一对多”匹配中，非裔美国女性更有可能被误认，后者可用于在刑事调查中识别出感兴趣的人。
虽然有些公司淡化了早期的技术偏见发现，即可以猜测一个人的性别的技术偏见，即所谓的“面部分析”，但NIST的研究也证明了脸部匹配在各个人群中也很困难。
算法正义联盟的创始人乔伊·布拉姆维尼(Joy Buolamwini)称该报告“全面反驳”了有关人工智能(AI)偏见不再是一个问题的说法。这项研究是在美国对这项技术越来越不满的时候进行的，批评者警告说，这可能导致不公正的骚扰或逮捕。
在这份报告中，NIST对来自99个开发人员的189种算法进行了测试，其中不包括未提交审查的亚马逊等公司。它所测试的内容与公司所销售的内容有所不同，因为NIST研究了与云分离的算法和专有培训数据。
报告称，中国的SenseTime是一家价值超过75亿美元的人工智能初创企业，在一项NIST测试中，“所有比较的假匹配率都很高”。
观看索马里男子的照片时，SenseTime的算法产生假阳性的时间超过10%。如果将其部署在机场，这将意味着索马里男子每10倍使用其他索马里男子的护照就可以通过海关检查。
SenseTime没有立即返回评论请求。
来自中国的另一家AI初创公司Yitu更准确，没有种族偏见。
在一对多测试中，在某些情况下，微软对有色女性的误报率几乎是有色男性的10倍。在仅使用黑白男性照片的一对多测试中，其算法几乎没有差异。
微软表示正在审查报告，周四晚上没有发表评论。
美国众议院国土安全委员会主席，本尼·汤普森(Bennie Thompson)表示，在海关官员在旅行检查站增加面部识别的时候，偏见的发现却比人们所担心的还要糟糕。
他说：“鉴于这些令人震惊的结果，政府必须重新评估其面部识别技术计划。”