內華達州卡車司機Jason Killinger正在起訴雷諾市，因為AI臉部識別將他標記為與Michael Ellis「100%匹配」，Ellis是一名因在胡椒磨坊賭場內睡覺而被禁入的男子，Killinger因此被拘留12小時。警官Richard Jager逮捕了Killinger，儘管他錢包裡有三種身份證明，拒絕透過其他方式驗證其身份，並指控他使用假文件。即使在指紋確認了Killinger在郡監獄的真實身份後，Jager仍繼續起訴。

這不是孤立的愚蠢行為——這是系統性失誤。Killinger的律師聲稱雷諾警方使用臉部識別進行了「數千次非法逮捕」，指出這是對AI局限性訓練不足，而非個別警官的惡意行為。這個先例很重要，因為臉部識別在執法部門中快速普及，但警官教育或法律框架並未相應改善。去年，法戈警方相信生成式AI將一位祖母定位在距離ATM詐騙現場1200英里外，導致她被監禁六個月。

技術現實很嚴峻：臉部識別系統經常產生誤報，特別是跨種族識別，但各部門仍將其部署為確定性身份識別工具。Killinger的案例展示了確認偏誤如何放大AI錯誤——一旦機器說「匹配」，人類判斷就關閉了。訴訟的成功可能迫使市政府實施真正的訓練協議和責任框架，可能讓雷諾納稅人承擔巨額賠償，同時為AI在警務中的問責制設立關鍵先例。