英国将全国推广AI人脸识别系统,但黑人、亚裔等群体频遭误判

AI资讯2个月前发布 ainav
68 0

12月6日,据英国《卫报》报道,在英国国家物理实验室对警用国家数据库中面部识别技术进行的最新测试显示,该技术在特定场景下存在明显种族歧视问题:相较于白人,黑人和亚裔更易被系统错误地匹配为涉案嫌疑人

这一发现立即引发了警方和治安专员的高度关注。他们指出,NPL的测试结果”揭示了令人担忧的内生性偏差”,并敦促政府在进一步推广该技术之前采取更为审慎的态度。

英国将全国推广AI人脸识别系统,但黑人、亚裔等群体频遭误判

值得注意的是,这一重要发现出炉之前不久,英国警务大臣莎拉·琼斯还曾盛赞面部识别技术为”自DNA比对以来最重要的执法突破”。

该系统的工作原理是通过扫描人脸特征,并将其与警方数据库中的通缉或涉案人员信息进行匹配。警方不仅可以实时监控画面中的人脸数据,还可以调取嫌疑人照片进行事后比对,并连接到警务、护照和移民管理等核心数据库。

测试结果显示,在系统设定较低的阈值下,不同种族间的误报率呈现出显著差异。具体而言,白人受试者的误报率为0.04%,远低于亚裔(4.0%)和黑人(5.5%)。

更令人担忧的是,测试数据还显示,黑人女性的误报率最高:数据显示,黑人男性的误报率为0.4%,而黑人女性则高达9.9%。

对此,警方与治安专员协会(APCC)发表联合声明称,测试结果清楚表明系统存在内嵌的偏差性。他们指出:”技术术语或许专业,但显而易见的是,在缺乏充分保障机制的情况下,这项技术已经投入到了实际执法工作中。”

据媒体披露,相关声明还对政府提出质疑:为何没有更早公开测试结果?为何没有主动将这一潜在问题告知受影响的少数族裔群体?尽管目前尚无证据表明有具体个案因此遭受不公待遇,但这种’侥倖’不能替代制度性保障。事实上,这些问题早已被相关部门掌握,却未与相关社区或利益攸关方共享信息。

© 版权声明

相关文章