英国埃塞克斯警察局近期暂停了实时人脸识别(LFR)摄像头的部署,原因是独立研究显示该系统在识别特定族裔时存在统计偏差。自2024年夏季引入该技术以来,警方发现系统对黑人的误报率或识别率显著高于白人,引发了关于算法公平性的严重担忧。
为查明问题,埃塞克斯警方委托剑桥大学进行了两项独立研究。其中一项实地实验显示,在受控环境下,系统对黑名单上人员的识别准确率约为50%,但存在明显的性别和族裔差异:系统更倾向于正确识别男性,且统计上显著更可能正确识别黑人参与者而非其他族裔。
另一项研究分析了2024年8月至2025年2月间超过40次部署,扫描了约130万张人脸。数据显示,警方仅进行了123次干预和48次逮捕,平均每扫描27,000张人脸才有一次逮捕,且仅确认一起误干预。尽管数据表明实际拦截率极低,但算法偏差问题促使警方决定暂停使用,并与软件供应商合作更新算法。
埃塞克斯警方发言人表示,在修订了相关政策和程序,并确认算法更新后,他们有信心重新部署该技术以追捕通缉犯。警方强调将持续监控结果,确保不对任何社区群体产生歧视风险。据悉,埃塞克斯警方采购的是区别于其他警方的系统,预计将在数周内恢复使用。
尽管英国政府计划将全国LFR巡逻车从10辆增至50辆,内政大臣表示不会为推广该技术道歉,但民权组织“大兄弟观察”(Big Brother Watch)强烈反对。该组织认为LFR技术具有极权色彩,在民主国家不应作为大规模监控工具,并警告其可能侵犯数千人的权利,呼吁必须消除种族歧视风险。
对于中国安防与AI行业从业者而言,这一案例深刻揭示了算法偏见在公共监控领域的潜在风险,提示企业在技术落地前必须建立严格的伦理审查机制与多族裔测试标准,以平衡效率与公平,避免技术滥用引发的社会信任危机。