← Todo el glosario
IA explicable
gobernanzaXAI · explicabilidad de la IA
Conjunto de prácticas que permiten a una persona entender por qué un sistema de IA tomó una decisión o ejecutó una acción, en lugar de aceptarla como una caja negra.
La IA explicable responde a la pregunta «¿por qué hizo eso?». Con un modelo que solo clasifica, basta con justificar la predicción; con un agente que planifica, usa herramientas y encadena pasos, hay que poder reconstruir la secuencia: qué recibió, qué razonó, qué herramienta llamó y con qué resultado. En operaciones es la base de la auditoría, de la corrección de errores y de la confianza del equipo que supervisa al agente. No sustituye a la observabilidad, que registra lo ocurrido; la explicabilidad lo hace comprensible para una persona.
En qué se diferencia de
- Observabilidad de agentes
- Observabilidad registra el qué; explicabilidad aporta el porqué comprensible.
Preguntas frecuentes
- ¿Es lo mismo IA explicable que observabilidad de agentes?
- No. La observabilidad registra lo que hizo el agente; la IA explicable hace que ese registro se entienda y se pueda justificar ante una persona o un auditor.
Términos relacionados
Fuentes y lecturas
- Red Hat — What is AgentOps? · 2026-10-02