← Todo el glosario
Gobernanza de agentes de IA
GobernanzaAI agent governance · gobierno de agentes
La gobernanza de agentes de IA es el conjunto de políticas, controles y responsabilidades que aseguran que los agentes autónomos actúan dentro de límites definidos: permisos, trazabilidad (audit trail), aprobaciones humanas, evaluación continua y rendición de cuentas. Responde a quién responde cuando un agente se equivoca.
Va más allá de vigilar qué hace un agente (observabilidad): define qué le está permitido hacer, con qué permisos y quién asume la responsabilidad. Incluye matrices de permisos, guardarraíles, aprobaciones humanas en puntos de riesgo y trazabilidad completa. Está ganando peso como categoría de inversión y de producto (agentes que vigilan a otros agentes).
En qué se diferencia de
- Observabilidad de agentes
- La observabilidad ve qué hace el agente; la gobernanza define qué le está permitido hacer y quién responde
- Cumplimiento (compliance)
- El compliance verifica el cumplimiento de normas; la gobernanza incluye además el diseño de controles y responsabilidades internas
Ejemplos
- Un agente de compliance que vigila las acciones de otros agentes y deja audit trail
- Matriz de permisos que impide a un agente ejecutar pagos sin aprobación humana
Preguntas frecuentes
- ¿Me obliga la ley a gobernar mis agentes?
- Depende del uso y el país. En la UE, el EU AI Act impone obligaciones a los sistemas de alto riesgo (con plazos aplazados a diciembre de 2027) y en España la AESIA tiene capacidad sancionadora desde agosto de 2026; pero la gobernanza es buena práctica más allá de la obligación legal.