Cuánta autonomía dar a un agente de IA no es una pregunta de sí o no
La conversación sobre autonomía casi siempre se plantea como un interruptor: o el agente hace las cosas solo, o no las hace. Con ese planteamiento solo hay dos finales posibles y los dos son malos. El primero es dejarlo en modo sugerencia para siempre, donde nadie se juega nada: la persona sigue haciendo el trabajo entero, ahora con una opinión de más encima de la mesa, y el sistema no ahorra una sola hora real. El segundo es soltarlo completo el primer día porque la demo salió bien, y enterarse del fallo cuando ya está en el correo de un cliente.
La autonomía no es un interruptor: es una escalera. Y como toda escalera, se sube un peldaño cada vez y solo cuando el anterior aguanta el peso. Lo que viene son los cinco peldaños, los tres criterios que autorizan una subida y la lista corta de acciones que se quedan a mitad de escalera por diseño. Si lo que estás decidiendo todavía es qué puede tocar el agente, esa decisión es anterior y está resuelta en qué permisos dar a un agente de IA: los permisos definen el alcance, la autonomía define la velocidad. No son lo mismo y se deciden por separado.
Los cinco peldaños, uno a uno
Los peldaños se ordenan por dos preguntas: quién ejecuta y quién revisa. No por lo listo que sea el modelo.
Peldaño 1 — Observa en sombra
El agente recibe los casos reales, hace su trabajo entero y su salida no llega a nadie: se queda en el registro. La operación no se entera de que existe. Es el único peldaño donde equivocarse es gratis, y por eso es el único sitio donde puedes permitirte descubrir lo que el sistema no sabe hacer.
Lo que se mide aquí no es «si acierta», es contra qué se compara. En sombra necesitas guardar la decisión humana del mismo caso para poder poner las dos al lado. Si solo guardas la salida del agente, al final del mes tendrás mil respuestas y ninguna forma de saber si eran buenas. Este es el peldaño que más se salta —no produce nada visible, así que parece tiempo perdido— y el que más caro sale saltarse: sin él, la primera medición real del sistema la hace un cliente.
Peldaño 2 — Sugiere
Su salida llega a la persona como propuesta. La persona sigue haciendo el trabajo; lo que el agente le quita es la página en blanco. El ahorro es real pero modesto, y ese es el punto: es un peldaño de aprendizaje, no de retorno. Su valor está en que aquí aparece el primer dato que importa de verdad —la tasa de corrección— y aparece gratis, porque la persona iba a revisar de todas formas.
El error típico del peldaño 2 es instalarse en él. Un sistema que lleva ocho meses sugiriendo no es prudente: es un sistema que nadie se atreve a evaluar. Si los números dan para subir y no se sube, lo que falta no es evidencia, es alguien que firme.
Peldaño 3 — Ejecuta con confirmación
El agente deja la acción preparada y completa —el correo escrito, el asiento cuadrado, el ticket clasificado y enrutado— y una persona da al botón. Es el patrón que la literatura llama human in the loop, y la diferencia con el peldaño 2 es quién carga con el trabajo: en el 2 la persona ejecuta, en el 3 revisa. Ese cambio es donde aparece el primer ahorro que se nota en la nómina de horas.
Aviso: el peldaño 3 se degrada solo. Cuando la confirmación es un clic sobre veinte elementos idénticos, deja de ser supervisión y pasa a ser un trámite. Si tu tasa de rechazo se va a cero, no celebres: mira si es que el sistema ha mejorado o es que el revisor ha dejado de leer. La forma de la supervisión y su mecánica están desarrolladas en humano en el bucle en una automatización con IA; lo que importa no es que haya alguien mirando, sino que tenga contexto, tiempo y autoridad real para decir que no.
Peldaño 4 — Ejecuta y avisa
El agente actúa y deja el aviso. La persona ya no autoriza: vigila. Es lo que se llama human on the loop. Este peldaño solo tiene sentido si existe una ventana de reversión real: un tiempo durante el cual la acción se puede deshacer sin que le haya costado nada a nadie. Un borrador que se envía en diez minutos y se puede cancelar tiene ventana. Una factura emitida no.
Lo que hay que diseñar aquí no es el aviso —eso es la parte fácil—, es el deshacer. Si el plan de reversión es «llamamos al cliente y le pedimos disculpas», no tienes un peldaño 4: tienes un peldaño 5 disfrazado, con la responsabilidad repartida entre nadie.
Peldaño 5 — Ejecuta y rinde cuentas
El agente actúa y nadie mira caso por caso. Lo que se revisa es el agregado: una muestra semanal, las métricas de siempre y las excepciones que el propio sistema levanta. No es ausencia de supervisión, es supervisión estadística — y solo funciona si el sistema sabe declarar cuándo no está seguro. Un agente que no tiene forma de decir «esto no lo tengo claro» no puede estar en el peldaño 5, porque sus errores llegan con la misma cara que sus aciertos.
Muy pocas tareas llegan aquí, y las que llegan comparten perfil: volumen alto, error barato, corrección rápida. Clasificar, enrutar, etiquetar, extraer campos de un documento para que otro sistema los valide. Cuando el volumen de lo que hay que revisar deja de caber en una persona, la supervisión pasa a ser una función con proceso propio, y eso ya es supervisión humana de IA a escala.
Los tres criterios para subir un peldaño («va bien» no es ninguno)
Un peldaño se sube con evidencia, y la evidencia son tres números que tienen que estar a favor a la vez. Dos de tres no autoriza nada.
1. Volumen de casos vistos
Con veinte casos no sabes nada: sabes que el agente funciona en los veinte casos que le tocaron. Lo que hace falta no es un número mágico, es haber visto los raros: el cliente que escribe en dos idiomas, la factura sin número de pedido, el mes de cierre, el proveedor que responde con un PDF escaneado del revés. Una regla práctica: si no puedes nombrar tres casos raros que el agente ya ha resuelto bien, todavía estás midiendo lo fácil.
2. Tasa de corrección humana — y su forma
El porcentaje de veces que la persona cambió lo que el agente propuso. Pero el número solo, sin su forma, engaña. Un 10 % de correcciones repartidas al azar es ruido tolerable. Un 10 % concentrado siempre en el mismo tipo de caso es un agujero conocido que la media te está escondiendo, y subir un peldaño con ese agujero abierto es automatizar precisamente el fallo. Antes de mirar el porcentaje, agrupa las correcciones por motivo; si un motivo se lleva más de la mitad, ese motivo es el trabajo pendiente, no la subida.
3. Reversibilidad de la acción
Tres preguntas, en este orden: ¿se puede deshacer?, ¿cuánto cuesta deshacerlo?, ¿cuánto tiempo tienes antes de que sea tarde? Un borrador sin enviar es reversible y gratis. Un correo enviado a un cliente es reversible a medias y caro: se arregla con otro correo y una conversación incómoda. Una transferencia ejecutada no es reversible — es una segunda transferencia en sentido contrario, con una llamada al banco por medio y una probabilidad razonable de que no vuelva.
Este criterio no se compensa con los otros dos. Si la acción no se puede deshacer, da igual que la tasa de corrección sea del 0,1 % sobre cien mil casos: la subida no está autorizada. La precisión reduce la frecuencia del error; no reduce su coste.
Lo que se queda en el peldaño 3 para siempre
Hay acciones que no suben aunque los tres criterios estén impecables. No es desconfianza en el modelo: es que el coste del percentil 1 no lo paga el modelo. Tres familias:
- Dinero que sale. Pagos, transferencias, devoluciones, alta de un proveedor con cuenta bancaria nueva. El fraude del cambio de IBAN existe precisamente porque este paso se automatizó antes de tiempo en mucha gente.
- Personas. Contratación, salario, disciplina, evaluación, cualquier decisión que toque la relación laboral de alguien. Aquí, además, el marco normativo aprieta por su cuenta.
- Compromisos con terceros. Contratos, ofertas en firme, precios cerrados, plazos comprometidos y cualquier comunicación con un organismo oficial. Lo que sale por la puerta con tu nombre lo firma una persona.
Esta lista de tres familias es nuestra, no del regulador. Pero el regulador apunta en la misma dirección: la AEPD recoge el principio de cuatro ojos —doble verificación por personas distintas— y lo plantea para los procesos automáticos con gran impacto en los derechos y libertades de las personas. Ese criterio es más amplio y más abstracto que nuestras tres familias; lo que hacemos aquí es aterrizarlo a las acciones concretas donde, en una empresa normal, el error no se deshace con un clic.
Qué te obliga la norma a poder hacer, y qué no te dice
En febrero de 2026 la AEPD publicó unas orientaciones sobre inteligencia artificial agéntica desde la perspectiva de protección de datos. Entre las medidas que propone para reducir riesgos: gobernanza sólida del sistema, participación activa del delegado de protección de datos, evaluación continua del rendimiento del agente, compartimentación de la memoria, trazabilidad del ciclo de vida del dato, supervisión humana significativa, entornos de aislamiento técnico y control estricto de las actualizaciones. Fuente: Orientaciones sobre Inteligencia Artificial agéntica, AEPD, versión 1.2, febrero de 2026.
El Reglamento europeo de inteligencia artificial lo convierte en obligación para los sistemas de alto riesgo en su artículo 14: el sistema debe diseñarse de modo que personas físicas puedan vigilarlo de forma efectiva mientras esté en uso, entendiendo sus capacidades y limitaciones, detectando anomalías y comportamientos inesperados, e interviniendo o deteniéndolo. Traducido a la escalera: en cualquier peldaño, incluido el 5, tiene que haber alguien que pueda entender, intervenir y parar. Un botón de parada que nadie ha probado nunca no cumple el artículo 14; cumple el acta de la reunión.
Y ahora lo que ninguno de los dos hace: darte la escalera. La norma te dice qué tienes que ser capaz de hacer y en qué operaciones exige dos pares de ojos. En qué peldaño colocas cada tarea es una decisión tuya, y por eso hay que escribirla en algún sitio en vez de dejarla en la cabeza de quien montó el sistema. Los cinco peldaños de esta guía son una formulación editorial nuestra, no una clasificación oficial: úsalos, cámbialos o inventa los tuyos, pero que existan por escrito.
Los tres errores que se repiten al subir
Subir por calendario
«Llevamos un mes en sugerencia, toca subir.» El tiempo no es evidencia de nada: un mes flojo son cuarenta casos y un mes fuerte son cuatrocientos. Lo que autoriza la subida es el volumen de casos vistos, no las semanas transcurridas.
Confundir «no se ha roto» con «va bien»
La ausencia de quejas no es una métrica. En el peldaño 2 y 3 el error del agente lo absorbe la persona en silencio, así que un sistema puede llevar meses siendo mediocre sin que nadie lo diga. Si no estás midiendo la corrección, no tienes evidencia: tienes ausencia de ruido.
Subir el agente entero
Es el error más caro y el más común. Un agente hace cinco cosas y solo dos tienen los números para subir; se sube el agente y las otras tres viajan de gratis. La subida se autoriza por acción, se registra por acción y se revierte por acción. La idea de un agente que «ya es autónomo» es la misma que desmonta el mito del agente 100 % autónomo: en producción no hay un interruptor, hay un reparto.
Cómo se escribe esto en una tabla de una página
Toda esta guía cabe en una tabla que se revisa una vez al mes. Una fila por acción, no por agente:
| Acción | Peldaño hoy | Qué falta para subir | Quién autoriza |
|---|---|---|---|
| Clasificar y enrutar el correo entrante | 4 — ejecuta y avisa | Muestra semanal 3 meses sin desvío por tipo | Responsable de operaciones |
| Redactar la respuesta al cliente | 3 — ejecuta con confirmación | Corrección < 8 % y dispersa por motivo | Responsable de soporte |
| Emitir la factura | 3 — techo permanente | No sube: dinero que sale | — |
| Extraer campos de un albarán | 5 — rinde cuentas | Ya está arriba; revisar excepciones | Responsable de administración |
- Una fila por acción. Si una fila dice «el agente de soporte», está mal escrita: divídela.
- Peldaño de hoy, con fecha. Sin fecha no sabrás si lleva tres semanas o siete meses ahí.
- Qué falta para subir, en número. «Cuando estemos cómodos» no es un criterio; «corrección por debajo del 8 % y dispersa» sí.
- Un nombre que autoriza. Una persona, no un comité. Si nadie firma, nada sube y el sistema se queda en el peldaño 2 para siempre.
- Marca las filas con techo permanente. Dinero, personas y compromisos con terceros llevan «no sube» escrito, para que dentro de un año nadie tenga que volver a discutirlo.
Nosotros montamos agentes que empiezan en sombra y suben con esta tabla delante — es lo que hacen los empleados IA que ponemos a trabajar, sobre la infraestructura que permite pararlos y auditarlos el día que haga falta, dentro de la lógica general de crear un agente de IA que aguante producción. No vendemos autonomía. Cobramos por que cada peldaño se suba con un número y con un nombre detrás.