Saltar al contenido principal
Zubnet AI › Aprender › Wiki › Humano en el bucle
Usar AI

Humano en el bucle

También conocido como: Human-in-the-Loop, HITL, Supervisión humana
Un diseño en el que una persona revisa, aprueba o corrige el trabajo de un sistema de IA en puntos definidos en lugar de dejarlo funcionar completamente solo.

Por qué importa

Los modelos cometen errores, y los agentes pueden convertir los errores en acciones: enviar un correo, borrar un archivo, mover dinero. Un punto de control humano es la salvaguarda más simple y más usada. Atrapa errores, limita el daño de una prompt injection y mantiene a una persona como responsable de las decisiones con consecuencias.

También es una expectativa legal en muchos contextos. La Ley de IA de la UE exige que los sistemas de IA de alto riesgo se diseñen para una supervisión humana efectiva (artículo 14), y el RGPD restringe las decisiones basadas únicamente en el tratamiento automatizado que afectan significativamente a las personas (artículo 22).

En profundidad

Humano en el bucle (human-in-the-loop, HITL) significa que una persona forma parte del proceso, y no solo recibe su resultado. La IA redacta, propone o actúa hasta cierto punto, y un humano aprueba, edita o rechaza antes de que pase algo importante. Un agente de codificación que pregunta antes de ejecutar un comando de shell, un bot de soporte que le pasa una solicitud de reembolso a un empleado y una herramienta de radiología cuyos hallazgos confirma un médico son todos sistemas con un humano en el bucle.

El término viene de la ingeniería de control y de la simulación, y también se usa en machine learning para los humanos que etiquetan datos o califican salidas durante el entrenamiento. Hoy se refiere casi siempre a la supervisión de agentes de IA.

Patrones comunes

  • Puertas de aprobación: el agente hace una pausa antes de acciones específicas y espera un sí o un no.
  • Revisión antes de publicar: la IA redacta, un humano edita y publica. Común en contenido, revisión de código y trabajo legal.
  • Escalamiento: el sistema maneja los casos rutinarios y pasa el caso a una persona cuando la confianza es baja, hay mucho en juego o el usuario pide hablar con alguien.
  • Retroalimentación y etiquetado: los humanos corrigen o califican las salidas, y esas correcciones mejoran los prompts, las evaluaciones o los datos de entrenamiento.

Hay términos relacionados que describen formas más débiles de participación. Human-on-the-loop significa que una persona monitorea y puede intervenir, pero no aprueba cada paso. Human-out-of-the-loop es autonomía total.

Por qué falla a menudo

Un humano en el bucle solo es una salvaguarda si el humano de verdad está prestando atención.

  • Sesgo de automatización: la gente tiende a confiar en un sistema que casi siempre acierta, y aprueba sin revisar de verdad.
  • Fatiga de aprobación: un agente que pide permiso cincuenta veces por hora acostumbra a su usuario a hacer clic en «sí» por reflejo.
  • Cuellos de botella: si cada acción espera a una persona, la automatización ahorra poco tiempo.
  • Culpa sin control: un revisor al que se le dan segundos por decisión y ninguna capacidad real de comprobar se convierte en lo que la investigadora Madeleine Clare Elish llamó una «zona de deformación moral» (moral crumple zone), que absorbe la responsabilidad por los fallos del sistema.

Cómo diseñar buenos puntos de control

  • Filtra por riesgo, no por defecto. Deja que la lectura y las acciones reversibles corran libremente. Exige aprobación para las acciones irreversibles, de cara al exterior o costosas: pagos, eliminaciones, mensajes a otras personas, cambios en producción.
  • Haz que revisar sea fácil. Muestra un diff, una vista previa o el comando exacto, no una descripción vaga. Una persona debería poder juzgar en segundos.
  • Reduce lo que hay que preguntar. Los sandboxes, la opción de deshacer y los permisos acotados hacen que sea seguro automatizar más acciones, así que las solicitudes que quedan reciben atención real.
  • Agrupa y prioriza. Agrupa las decisiones de bajo riesgo y destaca las inusuales.
  • Registra y muestrea. Registra lo que se aprobó y audita una muestra, incluidos los casos que el sistema manejó solo.

Un espectro, no un interruptor

En la práctica, los equipos avanzan por una escala a medida que crece la confianza: primero la IA sugiere y un humano hace el trabajo, luego la IA actúa con aprobación en cada paso, y después actúa sola con revisiones puntuales. Los buenos sistemas te permiten configurar esto por tipo de acción, y volver hacia más supervisión cuando la tarea es desconocida o el costo de un error es alto.

← Todos los términos
ESC