Humain dans la boucle
Pourquoi c'est important
Les modèles font des erreurs, et les agents peuvent transformer les erreurs en actions : envoyer un e-mail, supprimer un fichier, déplacer de l'argent. Un point de contrôle humain est le garde-fou le plus simple et le plus répandu. Il rattrape les erreurs, limite les dégâts d'une injection de prompt et garde une personne responsable des décisions lourdes de conséquences.
C'est aussi une attente légale dans de nombreux contextes. Le règlement européen sur l'IA (AI Act) exige que les systèmes d'IA à haut risque soient conçus pour permettre un contrôle humain effectif (article 14), et le RGPD encadre les décisions fondées exclusivement sur un traitement automatisé qui affectent les personnes de manière significative (article 22).
En profondeur
« Humain dans la boucle » (human-in-the-loop, HITL) signifie qu'une personne fait partie du processus, et n'est pas seulement la destinataire de son résultat. L'IA rédige, propose ou agit jusqu'à un certain point, et un humain approuve, modifie ou rejette avant que quoi que ce soit d'important ne se produise. Un agent de codage qui demande avant de lancer une commande shell, un bot de support qui transmet une demande de remboursement à un employé, et un outil de radiologie dont les conclusions sont confirmées par un médecin sont tous des systèmes avec humain dans la boucle.
Le terme vient de l'automatique et de la simulation, et il sert aussi en apprentissage automatique pour désigner les humains qui étiquettent des données ou notent des sorties pendant l'entraînement. Aujourd'hui, il désigne le plus souvent la supervision des agents d'IA.
Schémas courants
- Portes d'approbation : l'agent se met en pause avant certaines actions et attend un oui ou un non.
- Relecture avant publication : l'IA rédige, un humain corrige et publie. Courant pour les contenus, la revue de code et le travail juridique.
- Escalade : le système traite les cas courants et passe la main quand la confiance est faible, que les enjeux sont élevés ou que l'utilisateur demande une personne.
- Retours et étiquetage : des humains corrigent ou notent les sorties, et ces corrections améliorent les prompts, les évaluations ou les données d'entraînement.
Des termes voisins décrivent des formes d'implication plus faibles. Human-on-the-loop signifie qu'une personne surveille et peut intervenir, mais n'approuve pas chaque étape. Human-out-of-the-loop désigne l'autonomie complète.
Pourquoi cela échoue souvent
Un humain dans la boucle n'est un garde-fou que si l'humain est réellement attentif.
- Biais d'automatisation : on a tendance à faire confiance à un système qui a généralement raison, et à approuver sans vraiment vérifier.
- Fatigue d'approbation : un agent qui demande la permission cinquante fois par heure habitue son utilisateur à cliquer « oui » par réflexe.
- Goulots d'étranglement : si chaque action attend une personne, l'automatisation fait gagner peu de temps.
- Blâme sans contrôle : un relecteur qui dispose de quelques secondes par décision et d'aucun moyen réel de vérifier devient ce que la chercheuse Madeleine Clare Elish a appelé une « zone de déformation morale » (moral crumple zone), qui absorbe la responsabilité des défaillances du système.
Concevoir de bons points de contrôle
- Filtrez selon le risque, pas par défaut. Laissez la lecture et les actions réversibles s'exécuter librement. Exigez une approbation pour les actions irréversibles, tournées vers l'extérieur ou coûteuses : paiements, suppressions, messages à d'autres personnes, changements en production.
- Facilitez la relecture. Montrez un diff, un aperçu ou la commande exacte, pas une description vague. Une personne devrait pouvoir juger en quelques secondes.
- Réduisez ce qu'il faut demander. Bacs à sable, annulation et permissions limitées rendent davantage d'actions sûres à automatiser, si bien que les demandes restantes reçoivent une vraie attention.
- Regroupez et hiérarchisez. Regroupez les décisions à faible risque et faites remonter celles qui sortent de l'ordinaire.
- Journalisez et échantillonnez. Enregistrez ce qui a été approuvé et auditez un échantillon, y compris les cas que le système a traités seul.
Un spectre, pas un interrupteur
En pratique, les équipes avancent le long d'une échelle à mesure que la confiance grandit : d'abord l'IA suggère et un humain fait le travail, puis l'IA agit avec une approbation à chaque étape, puis elle agit seule avec des contrôles ponctuels. Les bons systèmes permettent de régler cela par type d'action, et de revenir vers plus de supervision quand la tâche est inhabituelle ou que le coût d'une erreur est élevé.