Humano en el ciclo
Toda unidad agéntica que ejecuta o decide tiene un punto definido de supervisión humana y un responsable con nombre. Es uno de los principios del rol.
Proceso general
El agente de IA puede proponer el rechazo de una factura de proveedor. La decisión final la toma una persona de cuentas por pagar, con nombre, antes de avisar al proveedor.
Ejemplo ilustrativo: seguros
El agente de IA puede proponer el rechazo de un expediente por documentos inválidos. Una persona de mesa de control, con nombre, confirma el rechazo antes de avisar al agente de seguros.
Ejemplo ilustrativo: manufactura
La cámara con visión por computadora de la línea de soldadura puede proponer mandar una pieza a scrap por un cordón incompleto. Un inspector del turno, con nombre, la revisa y confirma antes de desecharla o mandarla a retrabajo.
Ejemplo ilustrativo: retail
El agente de IA puede proponer el rechazo de una devolución por producto dañado. Una persona de atención a clientes, con nombre, confirma el rechazo antes de avisar al cliente.
Supervisión sin nombre no es supervisión
"El área lo revisa" no basta. Tiene que haber una persona responsable y un momento definido.
Relacionado: Unidad agéntica · Cómo supervisar agentes · Definición del rol