内华达州卡车司机Jason Killinger正在起诉雷诺市，因为AI面部识别将他标记为与Michael Ellis"100%匹配"，Ellis是一名因在胡椒磨坊赌场内睡觉而被禁入的男子，Killinger因此被拘留12小时。警官Richard Jager逮捕了Killinger，尽管他钱包里有三种身份证明，拒绝通过其他方式验证其身份，并指控他使用假文件。即使在指纹确认了Killinger在县监狱的真实身份后，Jager仍继续起诉。

这不是孤立的愚蠢行为——这是系统性失误。Killinger的律师声称雷诺警方使用面部识别进行了"数千次非法逮捕"，指出这是对AI局限性培训不足，而非个别警官的恶意行为。这个先例很重要，因为面部识别在执法部门中快速普及，但警官教育或法律框架并未相应改善。去年，法戈警方相信生成式AI将一位祖母定位在距离ATM诈骗现场1200英里外，导致她被监禁六个月。

技术现实很严峻：面部识别系统经常产生误报，特别是跨种族识别，但各部门仍将其部署为确定性身份识别工具。Killinger的案例展示了确认偏误如何放大AI错误——一旦机器说"匹配"，人类判断就关闭了。诉讼的成功可能迫使市政府实施真正的培训协议和责任框架，可能让雷诺纳税人承担巨额赔偿，同时为AI在警务中的问责制设立关键先例。