La reconnaissance faciale moderne fonctionne en trois étapes : la détection (trouver les visages dans une image en utilisant MTCNN ou RetinaFace), l'alignement (normaliser l'orientation et l'échelle du visage), et l'embedding (convertir le visage aligné en un vecteur de caractéristiques en utilisant un CNN comme ArcFace ou FaceNet). Deux visages sont comparés en calculant la similarité cosinus entre leurs embeddings — au-dessus d'un seuil, c'est une correspondance. L'embedding capture les caractéristiques spécifiques à l'identité tout en étant robuste aux changements d'éclairage, d'expression et d'âge.
Plusieurs études (notamment par Joy Buolamwini et Timnit Gebru) ont démontré que les systèmes commerciaux de reconnaissance faciale avaient des taux d'erreur significativement plus élevés pour les femmes et les personnes à la peau plus foncée. Un système précis à 99 % pour les hommes blancs mais à 90 % pour les femmes noires crée des résultats discriminatoires quand il est déployé dans les forces de l'ordre. Ces résultats ont mené à une meilleure diversité des données d'entraînement, des audits de précision par démographie, et dans certains cas, des interdictions de l'utilisation gouvernementale de la reconnaissance faciale.
La reconnaissance faciale fait face à plus de réglementation que presque toute autre technologie IA. Le AI Act européen interdit l'identification biométrique en temps réel dans les espaces publics (avec des exceptions étroites). Plusieurs villes américaines ont interdit l'utilisation gouvernementale. La loi BIPA de l'Illinois exige le consentement avant de collecter des données biométriques. La technologie elle-même est neutre, mais son déploiement dans des contextes de surveillance soulève des questions fondamentales sur la vie privée, les libertés civiles, et l'équilibre entre sécurité et liberté.