El reconocimiento facial moderno funciona en tres pasos: detección (encontrar rostros en una imagen usando MTCNN o RetinaFace), alineación (normalizar la orientación y escala del rostro) y embedding (convertir el rostro alineado en un vector de características usando una CNN como ArcFace o FaceNet). Dos rostros se comparan calculando la similitud coseno entre sus embeddings — por encima de un umbral significa coincidencia. El embedding captura características específicas de identidad siendo robusto a iluminación, expresión y cambios de edad.
Múltiples estudios (notablemente de Joy Buolamwini y Timnit Gebru) demostraron que los sistemas comerciales de reconocimiento facial tenían tasas de error significativamente más altas para mujeres y personas con piel más oscura. Un sistema que es 99% preciso para hombres blancos pero 90% preciso para mujeres negras crea resultados discriminatorios cuando se despliega en aplicación de la ley. Estos hallazgos llevaron a mejorar la diversidad de datos de entrenamiento, auditoría de precisión entre demografías y, en algunos casos, prohibiciones del uso gubernamental del reconocimiento facial.
El reconocimiento facial enfrenta más regulación que casi cualquier otra tecnología de IA. La Ley de IA de la UE prohíbe la identificación biométrica en tiempo real en espacios públicos (con excepciones limitadas). Varias ciudades de EE.UU. han prohibido el uso gubernamental. La BIPA de Illinois requiere consentimiento antes de recopilar datos biométricos. La tecnología en sí es neutral, pero su despliegue en contextos de vigilancia plantea preguntas fundamentales sobre privacidad, libertades civiles y el equilibrio entre seguridad y libertad.