GLOSSARY
Humano en el bucle
Un diseño de sistema de IA en el que una persona revisa, aprueba o anula las decisiones del agente en puntos definidos. El mecanismo de control predeterminado para decisiones comerciales de alto impacto donde la plena autonomía aún no es defendible.
Humano en el bucle (HITL) describe cualquier flujo de trabajo de IA que canaliza decisiones a un revisor humano antes de que surtan efecto. La interacción puede ser confirmatoria (el agente recomienda, el operador aprueba), correctiva (el operador etiqueta el error del agente para reentrenar), o basada en escalada (el agente solo se detiene a preguntar cuando su propia confianza cae por debajo de un umbral).
Por qué importa
Para tareas comerciales de alto impacto: resolver una coincidencia de sanciones, dar el visto bueno a una clasificación HS en bienes de doble uso, liberar una transferencia bancaria por encima de un umbral AML. HITL es lo que hace que el agente sea jurídicamente defendible conforme al EU AI Act Article 14, a las expectativas de riesgo de modelos de OCC SR 11-7 y a regímenes de supervisión equivalentes. La pregunta correcta no es si mantener a una persona en el bucle, sino qué decisiones lo requieren y qué contexto se le proporciona al revisor.
Términos relacionados
- Supervisión humana
- Explicabilidad
- Gestión del riesgo de modelos
- Escalada