Soluzione · AI Operations

La tua IA decide ogni giorno. Fra sei mesi, saprai spiegare una decisione precisa?

Un log non è tracciabilità. Avere registrazioni sparse tra il modello, lo strumento e il sistema di destinazione non ti permette di ricostruire perché questa richiesta è stata respinta, questo prezzo applicato o questo caso chiuso da solo. La tracciabilità delle decisioni è la funzione che lega ogni decisione al suo input, alle sue versioni, ai suoi dati, alla sua policy e a chi l’ha approvata —e la tiene recuperabile quando qualcuno chiede. La montiamo e la operiamo.

Montatelo nella mia azienda Vedere come funziona

Il problema

Hai i log. Quello che non hai è la capacità di ricostruire una decisione precisa end-to-end.

L’informazione di una stessa decisione vive in quattro posti —la chiamata al modello, il motore di recupero, lo strumento che ha eseguito e il sistema dove è finita— e nessuno condivide un identificativo, quindi ricostruirla è ore di lavoro manuale.
Non sai con quale versione è stato deciso: prompt, modello, policy di business e dataset sono cambiati da allora, e nessuno ha salvato quale fosse in vigore in quel momento.
La registrazione conserva l’output ma non il perché: quali documenti ha recuperato, quali strumenti ha chiamato, cosa hanno restituito e quale regola è stata applicata per decidere così e non altrimenti.
La supervisione umana non lascia traccia utilizzabile: qualcuno ha approvato, ma non risulta cosa ha visto a schermo, cosa è cambiato rispetto alla proposta né su quale base ha deciso.
La conservazione non è decisa: o si tiene tutto per sempre —dati personali compresi— o ruota a trenta giorni, e quando arriva il reclamo non c’è più niente da mostrare.

Il costo di lasciare tutto com’è

La tracciabilità non è burocrazia opzionale: per i sistemi ad alto rischio, il regolamento europeo sull’IA impone la registrazione automatica degli eventi lungo tutto il ciclo di vita (art. 12) e obbliga a conservare quei log per almeno sei mesi, sia per il fornitore (art. 19) sia per il deployer (art. 26.6). Ma il regolatore è quello che arriva per ultimo. Prima arrivano il cliente che contesta la decisione, il commerciale che non capisce perché la sua pratica è stata respinta e il team che vuole migliorare il sistema e non può, perché senza traccia non c’è diagnosi: non si distingue un errore del modello da un dato sbagliato, né una policy scritta male da un’eccezione legittima. Senza traccia, l’unica risposta possibile è «l’ha deciso l’IA», e quella frase non regge davanti a nessuno — né a un revisore, né a un cliente, né al tuo stesso comitato.

La soluzione

Montiamo la traccia di decisione end-to-end —identificativo, versioni, contesto, policy e supervisione— e la operiamo come funzione continua

1Partiamo dal definire cos’è una «decisione» nella tua azienda, il passo che quasi nessuno fa: non tutto ciò che fa un agente merita un fascicolo. Marchiamo le decisioni con conseguenza —quelle che toccano una persona, un incasso, un contratto o un impegno— e sono quelle che tracciamo in dettaglio; il resto si campiona.
2Diamo un identificativo unico a ogni caso e lo facciamo attraversare tutto: la chiamata al modello, il recupero delle informazioni, ogni strumento invocato e la registrazione finale nel tuo ERP, CRM o ticketing. Senza quel filo, ricostruire una decisione resterà archeologia tra quattro sistemi.
3Congeliamo il contesto della decisione: versione del modello, del prompt e della policy di business in vigore, documenti o record recuperati, parametri usati, strumenti chiamati e cosa hanno restituito. La traccia non conserva solo cosa è uscito, ma con cosa si è deciso.
4Facciamo sì che la supervisione umana lasci una traccia reale: cosa è stato mostrato al revisore, cosa ha proposto il sistema, cosa ha cambiato la persona e con quale motivo. È la differenza tra «c’è supervisione» e poterlo dimostrare, e si collega a la supervisione umana dell’IA su scala.
5Fissiamo conservazione e accesso con criterio: quanto si conserva ogni tipo di traccia, cosa si maschera o si sostituisce con un identificativo per non accumulare dati personali senza base legale, chi può consultarla e con quale registro di accesso. Tenere tutto per sempre non è conformità: è un altro rischio.
6Lo lasciamo consultabile e misurato. Un fascicolo di decisione che si apre per identificativo e si legge in minuti, non uno scarico di log; più un pannello di copertura —quale percentuale di decisioni con conseguenza ha traccia completa— ed esercitazioni periodiche: peschiamo una decisione a caso e la ricostruiamo, per scoprire i buchi prima che li scopra qualcun altro.

Cosa cambia

Quello che smetti di perdere

La decisione contestata smette di essere archeologia tra quattro sistemi: si apre per identificativo di caso, con il suo input, il suo contesto, le sue versioni e chi l’ha approvata in un unico fascicolo.
Meccanismo
Per i sistemi ad alto rischio, il regolamento europeo sull’IA impone la registrazione automatica degli eventi (art. 12) e una conservazione minima di sei mesi (art. 19 per il fornitore, art. 26.6 per il deployer). La traccia smette di essere un progetto in sospeso e diventa un obbligo coperto con evidenze.
Regolamento (UE) 2024/1689 (AI Act), artt. 12, 19 e 26.6 — ambito: Unione Europea
Il miglioramento del sistema smette di andare alla cieca: con la traccia si distingue un errore del modello da un dato sbagliato o da una policy scritta male, ed è questo che decide dove vale la pena intervenire.
Meccanismo
Cosa misuriamo: copertura delle decisioni con conseguenza che hanno traccia completa, tempo per ricostruire un caso end-to-end, % di ricostruzioni che falliscono per un buco, e anzianità e volume di traccia conservata per tipo.
Cosa misuriamo

Scheda tecnica

Lavoro che elimina: ricostruire a mano una decisione di IA frugando tra i log di quattro sistemi che non condividono identificativo, senza sapere quale versione di modello, prompt o policy fosse in vigore
Implementazione tipica: 4–8 settimane
Ingresso: una decisione con conseguenza presa dalla tua IA —un rifiuto, un prezzo, la chiusura di un caso, un’azione su un sistema— e tutto ciò che le è girato intorno
Uscita: un fascicolo di decisione recuperabile per identificativo di caso: input, contesto recuperato, strumenti invocati, versioni, policy applicata, supervisione umana e risultato
Compatibile con: Los frameworks de agentes que ya uses (LangChain, LlamaIndex, SDKs de proveedor, desarrollo propio)OpenTelemetry y tu plataforma de observabilidad o de trazas de LLMTu ERP / CRM / ticketing como sistema de destinoTu gestor de versiones de prompts, políticas y modelos
Può collegarsi con: Il tuo programma di conformità all’AI Act e le tue evidenze di auditLa tua policy di conservazione e protezione dei dati personaliIl tuo circuito di supervisione umana e approvazioniIl tuo processo di incidenti e miglioramento continuo
Cosa misuriamo: copertura delle decisioni con conseguenza che hanno traccia completatempo per ricostruire un caso end-to-end% di ricostruzioni che falliscono per un buco nella tracciaanzianità e volume di traccia conservata per tipo di decisione
Adatto per: aziende con IA o agenti che prendono decisioni con conseguenza in produzione —credito, prezzi, selezione, assistenza, operations— e che dovranno spiegarle a un cliente, a un revisore o a un regolatore
Non adatto per: chi usa solo assistenti di scrittura o piloti interni senza effetto su terzi: lì basta l’observability operativa; e non sostituisce il giudizio legale su cosa sia difendibile, che resta al tuo consulente

Domande frequenti

No, e confonderle è l’errore caro. Monitorare l’IA in produzione risponde a una domanda aggregata e al presente: il sistema va bene oggi, quanto costa, dove si degrada? La tracciabilità risponde a una domanda singolare e al passato: perché questa decisione è uscita così, quella del 14 marzo, quella che contesta questo cliente? Una guarda la curva; l’altra apre il fascicolo. Ti servono entrambe, ma quella che ti salva in un reclamo o in un audit è la seconda — ed è quella che quasi nessuno ha montato, perché richiede di decidere cosa si conserva, con quale identificativo e per quanto.

Rispettare l’AI Act operando la tua IA è il quadro: quali sistemi hai, in quale categoria di rischio ricadono, quale documentazione e quale supervisione richiede ciascuno. La tracciabilità è uno dei meccanismi che quel quadro dà per scontati e che quasi mai è costruito: la registrazione automatica degli eventi dell’articolo 12 e la sua conservazione minima di sei mesi. Puoi avere il programma di conformità aggiornato e restare incapace di ricostruire una decisione precisa, che è esattamente ciò che ti chiederanno. Si montano bene insieme, e se il programma è già in moto, questo è il pezzo che manca.

Sì, se lo fai in modo grezzo, ed è per questo che la conservazione fa parte del progetto e non è un aggiustamento successivo. Tracciamo in dettaglio solo le decisioni con conseguenza e campioniamo il resto; sostituiamo i dati personali con identificativi ovunque la traccia resti ricostruibile; fissiamo tempi per tipo di decisione —coprendo il minimo legale applicabile, senza trasformarlo in «per sempre»—; e registriamo chi consulta un fascicolo. Tenere tutto a tempo indeterminato non è conformità migliore: è rischio accumulato e fattura accumulata. La regola è che la traccia deve bastare a ricostruire, e non di più.

Lo montiamo nella tua azienda?

Hai individuato il problema. Noi consegniamo la soluzione e la lasciamo misurata.

Vedi il servizio