Jason Killinger, एक नेवादा ट्रक ड्राइवर, Reno शहर पर मुकदमा कर रहा है क्योंकि AI फेशियल रिकग्निशन ने उसे Michael Ellis के साथ "100 प्रतिशत मैच" के रूप में फ्लैग किया, जो Peppermill Casino में सोने के कारण प्रतिबंधित व्यक्ति था। ऑफिसर Richard Jager ने Killinger को गिरफ्तार कर लिया, भले ही उसके पास तीन प्रकार की ID थी, वैकल्पिक माध्यमों से उसकी पहचान सत्यापित करने से इनकार कर दिया, और उस पर नकली दस्तावेजों का उपयोग करने का आरोप लगाया। काउंटी जेल में फिंगरप्रिंट द्वारा Killinger की वास्तविक पहचान की पुष्टि के बाद भी, Jager ने आरोपों के साथ आगे बढ़ा।
यह अलग-थलग मूर्खता नहीं है — यह व्यवस्थित विफलता है। Killinger के वकीलों का दावा है कि Reno पुलिस ने फेशियल रिकग्निशन का उपयोग करके "हजारों गैरकानूनी गिरफ्तारियां" की हैं, जो दुष्ट अधिकारी व्यवहार के बजाय AI सीमाओं पर अपर्याप्त प्रशिक्षण की ओर इशारा करता है। यह मिसाल महत्वपूर्ण है क्योंकि फेशियल रिकग्निशन अधिकारी शिक्षा या कानूनी ढांचे में संबंधित सुधारों के बिना कानून प्रवर्तन में फैल रहा है। पिछले साल, एक दादी को छह महीने जेल में बिताने पड़े जब Fargo पुलिस ने जेनरेटिव AI पर भरोसा किया जिसने उसे ATM धोखाधड़ी स्थल से 1,200 मील दूर रखा।
तकनीकी वास्तविकता कठोर है: फेशियल रिकग्निशन सिस्टम नियमित रूप से गलत सकारात्मक परिणाम देते हैं, विशेष रूप से नस्लीय सीमाओं के पार, फिर भी विभाग इन्हें निश्चित पहचान उपकरणों के रूप में तैनात करते हैं। Killinger का मामला दर्शाता है कि कन्फर्मेशन बायस AI त्रुटियों को कैसे बढ़ाता है — एक बार जब मशीन "मैच" कहती है, मानव निर्णय बंद हो जाता है। मुकदमे की सफलता नगरपालिकाओं को वास्तविक प्रशिक्षण प्रोटोकॉल और देयता ढांचे लागू करने के लिए मजबूर कर सकती है, जो संभावित रूप से Reno करदाताओं को महत्वपूर्ण नुकसान पहुंचाते हुए पुलिसिंग में AI जवाबदेही के लिए महत्वपूर्ण मिसाल स्थापित कर सकती है।