Supervisar agentes de IA: el nuevo trabajo de tu equipo y cómo hacerlo bien

Lo que dice el informe

El informe Agentic AI: la nueva alianza humano-máquina, de MIOTI Tech & Business School, publicado esta semana y basado en más de 70 responsables de tecnología y recursos humanos de 25 sectores, deja varios datos recogidos por RRHH Digital:

• 7 de cada 10 directivos quieren que las personas dejen de ejecutar tareas y pasen a supervisar y controlar a los agentes.
• Un 37 % ve a la persona como supervisor estratégico que evalúa el resultado final; un 33 %, como interventor operativo que autoriza cada paso crítico.
• Un 73 % sigue preocupado por las «alucinaciones» de los modelos, y un 90 % quiere agentes que recuerden el contexto de trabajo.

Del lado de los clientes, el mensaje es parecido: según un estudio de Experian publicado en septiembre, el 69 % de los españoles pide transparencia y supervisión humana para confiar en agentes de IA.

La conclusión es clara: el agente hace el trabajo y la persona responde de él. La cuestión es cómo organizar esa supervisión para que sea real y no un trámite.

Dos formas de supervisar

Las dos posturas del informe no son excluyentes. Son dos herramientas, y un buen diseño usa cada una donde toca.

Interventor operativo: aprobar antes de que pase

El agente prepara la acción y se detiene. Una persona la revisa y decide si se ejecuta. Es lo adecuado cuando la acción:

• Tiene efectos sobre personas: una carta de despido, la denegación de una solicitud, una reclamación a un cliente.
• Es difícil de deshacer: un correo enviado, un pago, un escrito presentado.
• Compromete a la empresa: un presupuesto, una condición comercial, una respuesta con implicaciones legales.

Supervisor estratégico: revisar el resultado

El agente actúa solo y la persona revisa después, por muestreo y con métricas. Es lo adecuado para trabajo de bajo riesgo, mucho volumen y fácil de corregir: clasificar correos, pedir documentación, actualizar datos, responder preguntas frecuentes.

Cómo decidir qué va en cada grupo

Para cada acción que puede hacer el agente, hazte tres preguntas:

1. ¿Qué pasa si se equivoca? Si el daño es serio o afecta a una persona, aprobación previa.
2. ¿Se puede deshacer? Si no, aprobación previa.
3. ¿Cuántas veces al día ocurre? Si son cientos y el riesgo es bajo, muestreo.

El resultado es una tabla sencilla, acción por acción, que forma parte de la descripción del puesto del agente. Lo contamos en cómo implementar un empleado digital.

El gran riesgo: aprobar sin mirar

Cuando alguien aprueba cien propuestas al día y casi todas están bien, acaba aprobando por inercia. Es el llamado sesgo de automatización, y el propio Reglamento Europeo de IA lo menciona al regular la supervisión humana de los sistemas de alto riesgo. Estas medidas lo reducen:

• Aprobaciones con contexto. Cada propuesta muestra qué va a hacer el agente, por qué y con qué datos, de forma que se pueda decidir en segundos sin abrir cinco programas.
• Menos aprobaciones, mejor elegidas. Si todo pide aprobación, nada se revisa de verdad. Lo de bajo riesgo pasa a muestreo.
• Casos de control. De vez en cuando, revisar a fondo una propuesta al azar, aunque parezca correcta.
• Una sola ejecución. Lo aprobado se ejecuta una vez y exactamente como se aprobó; si cambia algo, vuelve a pedir aprobación.
• Rotación y límites. Que la misma persona no apruebe durante horas seguidas.

Qué medir

La supervisión se gestiona con datos, no con sensaciones:

Con estas cifras se decide cuándo dar más autonomía a una tarea y cuándo retirarla.

El puesto de la persona también cambia

Supervisar agentes es un trabajo cualificado. Quien lo hace bien suele ser quien hacía antes la tarea, porque sabe qué es un buen resultado y detecta lo que no cuadra. Necesita:

• Conocer la descripción del puesto del agente: qué hace, qué no y qué debe consultar.
• Saber corregir: proponer cambios en instrucciones y reglas, no solo rechazar.
• Formación específica, que además forma parte de la alfabetización en IA que exige el AI Act (lo explicamos en AI Act tras el Ómnibus).

Cómo lo hacemos en Amud

En los empleados digitales que construimos, la supervisión no se añade al final: es parte del diseño. Cada encargo empieza con un criterio de éxito por escrito; lo que tiene consecuencias se detiene y espera aprobación; lo aprobado se ejecuta una sola vez; y todo queda en el expediente con su autor. Así el equipo pasa de hacer el trabajo a dirigirlo, sin perder el control.