Autonomía graduada
Gobiernoniveles de autonomía · graduated autonomy · autonomía por niveles
Escalera explícita de permisos de un agente: de sugerir, a ejecutar con aprobación, a ejecutar y notificar, a ejecutar en silencio. Cada peldaño se gana con evidencia —evals verdes y trazas limpias— y se puede bajar el mismo día si la calidad cae.
La autonomía graduada evita las dos decisiones malas: dar autonomía total en el día 1 o dejar al agente en modo sugerencia para siempre. Se define por tipo de acción, no por agente: el mismo agente puede ejecutar reembolsos por debajo de un umbral y solo sugerir por encima. Cada nivel lleva asociados criterios de promoción (umbral de acierto en evals, volumen mínimo de casos, tasa de reversión) y de degradación automática. Esta definición es una formulación editorial propia de Implementa: recoge prácticas que circulan en el mercado bajo etiquetas como human-in-the-loop o niveles de autonomía, pero la escalera de cuatro peldaños con promoción basada en evidencia y degradación automática es nuestra manera de contarlo, no un consenso del sector.
En qué se diferencia de
- Human-in-the-loop
- Describe que hay un humano; no dice cómo ni cuándo se le quita el volante.
- Feature flag
- Enciende o apaga una función; la autonomía graduada modula el permiso de actuar.
Ejemplos
- Un agente de cobros que envía recordatorios solo, pero necesita aprobación para condonar importes.
- Un agente de contenido que publica en borrador durante 30 días y pasa a publicar directo si el eval se mantiene verde.
Preguntas frecuentes
- ¿Quién aprueba un ascenso de nivel?
- El responsable del proceso en el cliente, con el dato del eval delante, no el equipo técnico por su cuenta.
- ¿Se puede bajar de nivel?
- Debe poder hacerse en caliente y de forma automática si se cruza el umbral de fallos.