Human in the loop: dónde poner el freno humano en un agente IA

Este artículo forma parte de la serie Capacitaciones IThreex: contenido derivado de las formaciones internas que damos a nuestro equipo de ingeniería e implementación de agentes IA sobre la plataforma ABLE.

La regla base

Un agente puede proponer una agenda de trabajo, redactar una resolución, sugerir una consulta a la base de datos, armar un plan de acción. Puede proponer cualquier cosa. Lo que decide qué se ejecuta es la persona.

Esta frase se repite en toda formación seria sobre agentes y suele recibirse como una obviedad. Deja de serlo cuando hay que definir, caso por caso, dónde exactamente va el punto de control.

Qué requiere aprobación humana

El criterio no es "importancia" sino reversibilidad y exposición:

• Movimientos de dinero — cobros, pagos, emisión de notas de crédito.
• Operaciones destructivas — borrados, sobrescritura de registros, cierres masivos.
• Comunicaciones externas — cualquier mensaje que salga de la organización en nombre de la marca.
• Datos maestros — cambios en clientes, precios, condiciones contractuales.
• Configuración productiva — despliegues, permisos, cambios de infraestructura.

Qué no debería requerirla

Aquí es donde muchos proyectos se sabotean solos. Si cada consulta de lectura, cada resumen y cada borrador pasan por aprobación, el agente deja de ahorrar tiempo y se vuelve un formulario más lento. Las lecturas, los análisis, los borradores y las propuestas deben fluir sin fricción.

Por qué es la mejor defensa contra la inyección

Un agente comprometido por una inyección indirecta puede intentar enviar información a un destino externo o ejecutar una acción fuera de su dominio. Si esa acción exige aprobación humana, el ataque se convierte en una alerta visible en lugar de en un incidente. Es la capa que transforma un fallo silencioso en un evento detectado.

Lo mismo aplica a las alucinaciones: un agente que propone una resolución basada en una norma que no existe se detecta en revisión, no en el reclamo del cliente.

Cómo diseñar el punto de control

1. Clasificar las acciones del agente por reversibilidad y exposición externa.
2. Definir el aprobador por tipo de acción — no todo debe subir al mismo nivel.
3. Mostrar contexto en la solicitud: qué va a hacer, con qué datos, por qué lo propone. Una aprobación a ciegas no es un control.
4. Medir la tasa de aprobación. Si un tipo de acción se aprueba el 100% de las veces durante meses, es candidata a automatizarse. Si se rechaza seguido, hay un problema de diseño del agente.
5. Registrar todo: quién aprobó, cuándo, sobre qué propuesta.

La evolución natural: menos freno, más confianza

El human in the loop no es un estado permanente idéntico en el tiempo. Es un mecanismo de construcción de confianza. Los primeros meses de un agente productivo se caracterizan por supervisión alta; a medida que las métricas lo respaldan, ciertos tipos de acción se liberan. Ese recorrido —supervisar, medir, liberar— es exactamente lo que acompañamos en los proyectos de implementación.