Solución · AI Operations

Tu IA decide todos los días. Dentro de seis meses, ¿podrás explicar una decisión concreta?

Un log no es una traza. Tener registros repartidos entre el modelo, la herramienta y el sistema de destino no te deja reconstruir por qué esta solicitud se denegó, este precio se aplicó o este caso se cerró solo. La trazabilidad de decisiones es la función que ata cada decisión a su entrada, su versión, sus datos, su política y su aprobador —y la deja recuperable cuando alguien pregunte. La montamos y la operamos.

Montadlo en mi negocio Ver cómo funciona

El problema

Tienes logs. Lo que no tienes es la capacidad de reconstruir una decisión concreta de punta a punta.

La información de una misma decisión vive en cuatro sitios —la llamada al modelo, el motor de recuperación, la herramienta que ejecutó y el sistema donde acabó— y ninguno comparte identificador, así que reconstruirla es un trabajo manual de horas.
No sabes con qué versión se decidió: el prompt, el modelo, la política de negocio y el conjunto de datos han cambiado desde entonces, y nadie guardó cuál estaba vigente en ese momento.
El registro guarda la salida pero no el porqué: qué documentos recuperó, qué herramientas llamó, qué devolvieron y qué regla se aplicó al final para decidir así y no de otra forma.
La supervisión humana no deja rastro utilizable: alguien aprobó, pero no consta qué vio en pantalla, qué cambió respecto a la propuesta ni sobre qué base decidió.
La retención está sin decidir: o se guarda todo para siempre —con datos personales dentro— o se rota a los treinta días y cuando llega la reclamación ya no hay nada que enseñar.

Coste de seguir igual

La trazabilidad no es papeleo opcional: para los sistemas de alto riesgo, el Reglamento europeo de IA exige registro automático de eventos a lo largo del ciclo de vida (art. 12) y obliga a conservar esos registros durante al menos seis meses, tanto al proveedor (art. 19) como al responsable del despliegue (art. 26.6). Pero el regulador es solo el que llega tarde. Antes llega el cliente que reclama la decisión, el comercial que no entiende por qué se denegó su operación y el equipo que quiere mejorar el sistema y no puede, porque sin traza no hay diagnóstico: no se distingue un fallo del modelo de un dato malo, ni una política mal escrita de una excepción legítima. Sin traza, la única respuesta posible es «lo decidió la IA», y esa frase no vale ante nadie —ni ante un auditor, ni ante un cliente, ni ante tu propio comité.

La solución

Montamos la traza de decisión de punta a punta —identificador, versiones, contexto, política y supervisión— y la operamos como función continua

1Empezamos por definir qué es una «decisión» en tu negocio, que es el paso que casi nadie da: no todo lo que hace un agente merece expediente. Marcamos las decisiones con consecuencia —las que afectan a una persona, a un cobro, a un contrato o a un compromiso— y esas son las que se trazan con detalle; el resto se muestrea.
2Damos un identificador único a cada caso y lo hacemos atravesar todo: la llamada al modelo, la recuperación de información, cada herramienta invocada y el registro final en tu ERP, CRM o ticketing. Sin ese hilo, reconstruir una decisión seguirá siendo arqueología entre cuatro sistemas.
3Congelamos el contexto de la decisión: versión del modelo, del prompt y de la política de negocio vigentes, documentos o registros recuperados, parámetros usados, herramientas llamadas y lo que devolvieron. La traza no guarda solo qué salió, sino con qué se decidió.
4Hacemos que la supervisión humana deje rastro real: qué se le enseñó al revisor, qué propuso el sistema, qué cambió la persona y con qué motivo. Es la diferencia entre «hay supervisión» y poder demostrarla, y es lo que enlaza con la supervisión humana de IA a escala.
5Fijamos retención y acceso con criterio: cuánto se guarda cada tipo de traza, qué se enmascara o se sustituye por un identificador para no acumular datos personales sin base legal, quién puede consultarla y con qué registro de acceso. Guardarlo todo para siempre no es cumplir: es otro riesgo.
6Lo dejamos consultable y medido. Un expediente de decisión que se abre por identificador de caso y se lee en minutos, no un volcado de registros; más un panel de cobertura —qué porcentaje de decisiones con consecuencia tiene traza completa— y ensayos periódicos: escogemos una decisión al azar y la reconstruimos, para descubrir los huecos antes de que los descubra otro.

Lo que cambia

Lo que dejas de perder

La decisión reclamada deja de ser arqueología entre cuatro sistemas: se abre por identificador de caso, con su entrada, su contexto, su versión y su aprobador en un solo expediente.
Mecanismo
Para sistemas de alto riesgo, el Reglamento europeo de IA exige registro automático de eventos (art. 12) y conservación mínima de seis meses (art. 19 para el proveedor, art. 26.6 para el responsable del despliegue). La traza deja de ser un proyecto pendiente y pasa a ser una obligación cubierta con evidencia.
Reglamento (UE) 2024/1689 (AI Act), arts. 12, 19 y 26.6 — ámbito: Unión Europea
La mejora del sistema deja de ir a ciegas: con la traza se distingue un fallo del modelo de un dato malo o de una política mal escrita, que es lo que decide dónde merece la pena tocar.
Mecanismo
Qué medimos: cobertura de decisiones con consecuencia que tienen traza completa, tiempo en reconstruir un caso de punta a punta, % de reconstrucciones que fallan por un hueco, y antigüedad y volumen de traza retenida por tipo.
Qué medimos

Ficha técnica

Trabajo que elimina: reconstruir a mano una decisión de IA rebuscando entre registros de cuatro sistemas que no comparten identificador, sin saber qué versión de modelo, prompt o política estaba vigente
Implementación habitual: 4–8 semanas
Entrada: una decisión con consecuencia tomada por tu IA —una denegación, un precio, un cierre de caso, una acción sobre un sistema— y todo lo que la rodeó
Salida: un expediente de decisión recuperable por identificador de caso: entrada, contexto recuperado, herramientas invocadas, versiones, política aplicada, supervisión humana y resultado
Compatible con: Los frameworks de agentes que ya uses (LangChain, LlamaIndex, SDKs de proveedor, desarrollo propio)OpenTelemetry y tu plataforma de observabilidad o de trazas de LLMTu ERP / CRM / ticketing como sistema de destinoTu gestor de versiones de prompts, políticas y modelos
Puede conectarse con: Tu programa de conformidad del AI Act y tus evidencias de auditoríaTu política de retención y de protección de datos personalesTu circuito de supervisión humana y de aprobacionesTu proceso de incidencias y de mejora continua
Qué medimos: cobertura de decisiones con consecuencia que tienen traza completatiempo en reconstruir un caso de punta a punta% de reconstrucciones que fallan por un hueco en la trazaantigüedad y volumen de traza retenida por tipo de decisión
Adecuado para: empresas con IA o agentes tomando decisiones con consecuencia en producción —crédito, precios, contratación, atención, operaciones— que tendrán que explicarlas ante un cliente, un auditor o un regulador
No adecuado para: quien solo usa asistentes de redacción o pilotos internos sin efecto sobre terceros: ahí basta con la observabilidad operativa; y no sustituye el criterio jurídico de qué es defendible, que sigue siendo de tu asesoría

Preguntas frecuentes

No, y confundirlo es el error caro. Monitorizar la IA en producción responde una pregunta agregada y en presente: ¿va bien el sistema hoy, cuánto cuesta, dónde se degrada? La trazabilidad responde una pregunta singular y en pasado: ¿por qué salió así esta decisión, la del 14 de marzo, la que reclama este cliente? Una mira la curva; la otra abre el expediente. Necesitas las dos, pero la que te salva en una reclamación o en una auditoría es la segunda, y es la que casi nadie tiene montada porque exige decidir qué se guarda, con qué identificador y durante cuánto.

Cumplir el AI Act operando tu IA es el marco: qué sistemas tienes, en qué categoría de riesgo caen, qué documentación y qué supervisión exige cada uno. La trazabilidad es uno de los mecanismos que ese marco da por supuestos y que casi nunca está construido: el registro automático de eventos del artículo 12 y su conservación mínima de seis meses. Puedes tener el programa de conformidad al día y seguir sin poder reconstruir una decisión concreta, que es justo lo que te van a pedir. Se montan bien juntos, y si ya tienes el programa en marcha, esto es la pieza que le falta.

Sí, si lo haces a lo bruto, y por eso la retención es parte del diseño y no un ajuste posterior. Trazamos con detalle solo las decisiones con consecuencia y muestreamos el resto; sustituimos datos personales por identificadores siempre que la traza siga siendo reconstruible; fijamos plazos por tipo de decisión —cubriendo el mínimo legal que aplique, sin convertirlo en «para siempre»—; y registramos quién consulta un expediente. Guardarlo todo indefinidamente no es cumplir mejor: es acumular riesgo y factura. La regla es que la traza tiene que ser suficiente para reconstruir y no más que eso.

¿Lo montamos en tu negocio?

Tú tienes el problema localizado. Nosotros lo dejamos funcionando y medido.

Ver el servicio