Aseguramiento de IA
gobernanzaAI assurance · aseguramiento de inteligencia artificial · assurance de IA · garantía de IA
Verificación independiente de que un sistema de IA hace lo que dice que hace, y que deja evidencia suficiente para defenderlo ante un tercero: auditor, regulador, cliente o tribunal.
El aseguramiento de IA (AI assurance) es la capa que comprueba y acredita, desde fuera del equipo que construyó el sistema, que la IA en producción cumple lo que la organización afirma sobre ella: qué decide, con qué datos, con qué límites y con qué supervisión humana. Se apoya en tres piezas: controles definidos a lo largo del ciclo de vida (diseño, despliegue, operación, retirada), evidencia registrada de que esos controles se ejecutan de verdad, y una opinión o informe de alguien que no es parte interesada. Conviene no confundirlo con la gobernanza: la gobernanza es normativa —decide qué se permite, quién aprueba y quién responde—; el aseguramiento es probatorio —comprueba que lo decidido ocurre y lo documenta de forma reutilizable ante un examen externo. Tampoco es lo mismo que las evaluaciones (evals), que miden si la salida del modelo es buena: el aseguramiento puede concluir que un sistema con métricas excelentes es indefendible porque nadie registró quién lo aprobó ni qué hizo el día que falló. En Europa el motor de esta capa es doble: obligaciones de transparencia ya exigibles a quien despliega IA, y autoridades nacionales de supervisión con capacidad de inspección. La consecuencia práctica es incómoda: la pregunta deja de ser si tu IA funciona y pasa a ser si puedes demostrarlo con lo que tienes guardado.
En qué se diferencia de
- Gobernanza de IA
- La gobernanza decide qué se permite, quién aprueba y quién responde; el aseguramiento comprueba de forma independiente que eso se cumple y deja la prueba.
- Evaluaciones (evals)
- Las evals miden si la salida del modelo es correcta; el aseguramiento comprueba si el sistema entero es defendible ante un tercero, aunque las métricas sean buenas.
- Observabilidad de agentes
- La observabilidad sirve al equipo para operar y depurar; el aseguramiento sirve a un externo para verificar, y por eso exige integridad, retención y trazabilidad de la evidencia.
Preguntas frecuentes
- ¿Necesito aseguramiento de IA si mi empresa es pequeña?
- Depende menos del tamaño que de lo que la IA toca. Si un sistema decide o influye sobre personas, dinero, contratos o datos personales, alguien acabará preguntando cómo lo hace: un cliente grande en su cuestionario de proveedor, tu aseguradora, un auditor de cuentas o un supervisor. El nivel de formalidad sí escala con el tamaño: en una empresa de 50 personas el aseguramiento no es un informe de auditoría, es un dossier ordenado que existe antes de que te lo pidan.
- ¿Puede asegurarme la IA el mismo que me la implanta?
- Puede, y es lo habitual, pero entonces no es independiente y hay que decirlo. La independencia es lo que da valor a la opinión: si quien construye es quien firma, lo que tienes es una autoevaluación bien hecha. Una vía intermedia razonable es separar roles dentro del proveedor y dejar la evidencia en un formato que un tercero pueda revisar después sin depender de él.
- ¿Por dónde se empieza?
- Por el inventario: qué sistemas de IA y qué agentes están vivos hoy, quién los aprobó y qué pueden tocar. Sin inventario no hay alcance, y sin alcance no hay aseguramiento posible. Después vienen los controles mínimos por sistema y el registro que los evidencia.