Un agente classifica da otto mesi le fatture dei fornitori. Un lunedì qualcuno nota che imputa male un tipo di spesa e la reazione è immediata: «lo spegniamo». Bastano dieci secondi. Poi arriva la domanda che nessuno si era fatto: chi lo fa a mano? La persona che se ne occupava ha cambiato ruolo a marzo, la procedura era «quello che sapeva lei» e il volume di una settimana non entra in un pomeriggio.
La tesi in una riga: spegnere un agente è un pulsante; disconnetterlo senza fermare il processo è un piano, e quasi nessuno lo progetta perché un piano di uscita sembra pessimismo. Dopo sei mesi il processo non sa più funzionare senza l’agente, e a quel punto «sospendere» e «fermare l’attività» sono la stessa cosa.
Come disconnettere un agente IA: il piano di uscita che nessuno progetta
L’avvio si progetta con cura: perimetro, permessi, test. L’uscita si rimanda a «poi vediamo». Un piano di uscita vero ha tre pezzi, e tutti e tre devono esistere prima dell’incidente:
- Il passaggio manuale, documentato e provato. Non «qualcuno lo farà»: chi, con quali accessi, con quali istruzioni e con quale volume.
- La soglia che fa scattare la disconnessione. Una condizione scritta in anticipo, non una riunione improvvisata mentre l’agente continua a rispondere.
- Chi la esegue. Una persona con nome e cognome, autorizzata ad agire senza chiedere il permesso ad altre tre.
Perché il processo non sa più funzionare senza l’agente
È un meccanismo, non una distrazione. Finché l’agente svolge il compito, il team smette di svolgerlo; smettendo, smette anche di mantenere il giudizio: le eccezioni, i clienti fuori norma, la scorciatoia che conosceva una sola persona. Quella conoscenza non sparisce di colpo, evapora. Quello che sopravvive sta nelle istruzioni dell’agente, che non sono un manuale per esseri umani.
Tre segnali che ci siete già arrivati: nessuno nel team ha eseguito il passaggio manuale da mesi, gli accessi necessari sono stati tolti quando «non servivano più», e nessuno sa quanto volume reggerebbe una persona. Se anche uno solo è vero, spegnere l’agente non è più un’opzione reversibile, anche se il pulsante funziona.
Che cosa deve essere scritto nel passaggio manuale
- I passaggi e le loro eccezioni, scritti da chi li conosce, non ricostruiti dalle istruzioni dell’agente.
- Gli accessi attivi. Account, permessi e strumenti del processo manuale, verificati e non dati per scontati.
- La capacità reale. Quanto volume entra a mano e che cosa ha priorità quando non entra tutto; questa decisione si prende adesso, non alle sei di sera.
- La prova. Un’esercitazione periodica in cui una persona esegue il passaggio manuale su casi reali. Una procedura mai eseguita è un’ipotesi.
Il primo gradino dell’uscita non è quasi mai «spento»: è abbassare l’autonomia a «l’agente propone, una persona invia». Si può fare solo se hai definito una scala di livelli di autonomia di un agente prima di averne bisogno.
Quando si disconnette: una soglia scritta, non una riunione
La soglia trasforma una discussione in un’azione. Non deve essere numerica, deve essere inequivocabile e avere un responsabile:
| Segnale | Disconnessione | Chi decide |
|---|---|---|
| Un errore che tocca denaro, scadenze o un cliente preciso | Parziale: si toglie lo strumento che l’ha causato o si abbassa l’autonomia | Responsabile del processo |
| Deriva prolungata dell’indicatore di qualità che definisce il successo | Intermedia: passa a «propone, una persona invia» fino alla revisione | Responsabile del processo, con revisione settimanale |
| Un’azione fuori dal suo perimetro o un accesso che non avrebbe mai dovuto avere | Totale e immediata, senza riunione | Chi ha l’interruttore |
| Dubbio ragionevole che l’uso possa creare un rischio legale | Totale fino a chiarimento, con avviso a chi di dovere | Direzione, con supporto legale |
Il rilevamento può essere automatico, ad esempio con un agente supervisore che controlla chi lavora, ma che cosa si disconnette e fino a dove lo stabilisce una persona prima che accada.
Che cosa dice l’AI Act sulla sospensione di un agente?
L’articolo 26, paragrafo 5, del regolamento (UE) 2024/1689 impone al deployer di un sistema ad alto rischio che abbia motivo di ritenere che il suo uso possa presentare un rischio di informare senza indugio il fornitore e l’autorità di vigilanza del mercato e di sospendere l’uso del sistema (articolo 26 sul portale ufficiale della Commissione europea).
Due precisazioni. Primo, l’obbligo riguarda i sistemi ad alto rischio; molti agenti aziendali non lo sono e per loro è una buona pratica, non un obbligo. Secondo, la norma chiede di poter sospendere, non come farlo senza rompere nulla: sospendere senza un piano di ritorno significa fermare il processo e lasciare il problema a chi dovrà lavorare a mano quel pomeriggio.
Disconnettere un agente è lo stesso che dismetterlo?
No, e confonderli provoca errori. Disconnettere è temporaneo e reversibile: l’agente, le sue credenziali e il suo storico restano, e una persona prende in carico il lavoro mentre si corregge. Dismettere è definitivo: si revocano i permessi, si archivia il registro e si decide che cosa succede a ciò che l’agente aveva in sospeso. La disconnessione deve richiedere minuti; la dismissione può prendersi il suo tempo. Tutto ciò che regola entrambe, dai permessi al registro, è in governance e controllo dell’automazione con l’IA.
Lista di uscita prima di mettere un agente in produzione
| Domanda | Se la risposta è «no» |
|---|---|
| Il passaggio manuale esiste per iscritto, con le sue eccezioni? | Il processo non può sopravvivere all’agente |
| Qualcuno l’ha eseguito su casi reali negli ultimi mesi? | È un’ipotesi, non un piano |
| Gli accessi per farlo sono ancora attivi? | L’uscita è chiusa anche se il pulsante funziona |
| C’è una soglia scritta e una persona autorizzata ad agire? | Si deciderà in una riunione, con l’agente che risponde ancora |
| Sai quanto volume regge una persona e che cosa ha priorità? | Spegnerlo equivale a perdere ciò che non entra |
Chi risponde, con quali livelli di gravità e da quale runbook è spiegato in chi risponde quando un’automazione si ferma. E se preferisci non costruire né sostenere tu questa funzione, è ciò che copriamo con la gestione degli incidenti degli agenti IA.
La frase da portarsi via: un agente che non si può spegnere è un rischio, ma uno che si spegne quando nessuno sa fare il suo lavoro è lo stesso rischio con un pulsante.