El humano en el circuito no es un botón de aprobar
Muchas soluciones dicen tener «human in the loop» porque alguien pulsa Aprobar. Eso no garantiza una revisión real. Si la interfaz oculta las fuentes, presenta veinte decisiones seguidas o premia la velocidad, la persona termina confirmando por inercia.
Una supervisión útil necesita contexto: qué cambió, por qué el sistema lo propone, qué nivel de confianza tiene y qué consecuencia produce. También necesita tiempo y autoridad para decir no.
Diseñar una revisión que funcione
- Mostrar diferencias, no documentos completos.
- Destacar datos sensibles y excepciones.
- Enviar los casos dudosos a personas con la competencia adecuada.
- Medir cuántas recomendaciones se corrigen y por qué.
La revisión humana tampoco debe convertirse en excusa para desplegar un sistema mal evaluado. Si cada resultado necesita una reconstrucción completa, no hay ahorro. El objetivo es combinar velocidad automática con puntos de juicio bien elegidos.
Marco de referencia: Perfil de IA generativa de NIST.