Quanta autonomia dare a un agente IA non è una domanda da sì o no
La conversazione sull'autonomia si imposta quasi sempre come un interruttore: o l'agente fa le cose da solo, o non le fa. Con quell'impostazione ci sono solo due finali possibili e sono brutti entrambi. Il primo è lasciarlo in modalità suggerimento per sempre, dove nessuno rischia niente: la persona continua a fare tutto il lavoro, adesso con un'opinione in più sul tavolo, e il sistema non fa risparmiare una sola ora vera. Il secondo è mollarlo del tutto il primo giorno perché la demo era andata bene, e scoprire l'errore quando è già nella mail di un cliente.
L'autonomia non è un interruttore: è una scala. E come tutte le scale, si sale un gradino alla volta e solo quando il precedente regge il peso. Quello che segue sono i cinque gradini, i tre criteri che autorizzano una salita e la lista corta di azioni che restano a metà scala per scelta. Se quello che stai ancora decidendo è cosa può toccare l'agente, quella decisione viene prima ed è risolta in quali permessi dare a un agente IA: i permessi definiscono la portata, l'autonomia definisce la velocità. Non sono la stessa cosa e si decidono separatamente.
I cinque gradini, uno per uno
I gradini si ordinano con due domande: chi esegue e chi controlla. Non con quanto è intelligente il modello.
Gradino 1 — Osserva in ombra
L'agente riceve i casi reali, fa tutto il suo lavoro e la sua uscita non arriva a nessuno: resta nel registro. L'operatività non si accorge nemmeno che esiste. È l'unico gradino dove sbagliare è gratis, e per questo è l'unico posto dove puoi permetterti di scoprire cosa il sistema non sa fare.
Quello che si misura qui non è «se ci azzecca», è contro cosa lo confronti. In shadow mode devi conservare la decisione umana sullo stesso caso, per poter mettere le due cose una accanto all'altra. Se salvi solo l'uscita dell'agente, a fine mese avrai mille risposte e nessun modo di sapere se erano buone. Questo è il gradino che si salta di più —non produce niente di visibile, quindi sembra tempo perso— ed è quello che costa di più saltare: senza, la prima misurazione vera del sistema la fa un cliente.
Gradino 2 — Suggerisce
La sua uscita arriva alla persona come proposta. La persona continua a fare il lavoro; quello che l'agente le toglie è la pagina bianca. Il risparmio è reale ma modesto, ed è esattamente il punto: è un gradino di apprendimento, non di ritorno. Il suo valore sta nel fatto che qui compare il primo dato che conta davvero —il tasso di correzione— e compare gratis, perché la persona avrebbe comunque riletto.
L'errore tipico del gradino 2 è metterci casa. Un sistema che suggerisce da otto mesi non è prudente: è un sistema che nessuno ha il coraggio di valutare. Se i numeri ci sono e non si sale, quello che manca non è evidenza: è qualcuno che firmi.
Gradino 3 — Esegue con conferma
L'agente lascia l'azione pronta e completa —la mail scritta, la scrittura contabile quadrata, il ticket classificato e instradato— e una persona clicca il pulsante. È lo schema che la letteratura chiama human in the loop, e la differenza con il gradino 2 è chi si carica il lavoro: nel 2 la persona esegue, nel 3 controlla. Quel cambio è dove compare il primo risparmio che si vede nel monte ore.
Avvertenza: il gradino 3 si degrada da solo. Quando la conferma è un clic su venti elementi identici, smette di essere supervisione e diventa una formalità. Se il tuo tasso di rifiuto va a zero, non festeggiare: guarda se è il sistema che è migliorato o se è chi controlla che ha smesso di leggere. La forma della supervisione e la sua meccanica sono sviluppate in umano nel loop in un'automazione con IA; quello che conta non è che ci sia qualcuno a guardare, ma che abbia contesto, tempo e autorità vera per dire di no.
Gradino 4 — Esegue e avvisa
L'agente agisce e lascia l'avviso. La persona non autorizza più: sorveglia. È quello che si chiama human on the loop. Questo gradino ha senso solo se esiste una finestra di reversione reale: un tempo durante il quale l'azione si può annullare senza che sia costata niente a nessuno. Una bozza che parte fra dieci minuti e si può bloccare ha la finestra. Una fattura emessa no.
Quello che va progettato qui non è l'avviso —quella è la parte facile—, è l'annullamento. Se il piano di reversione è «chiamiamo il cliente e ci scusiamo», non hai un gradino 4: hai un gradino 5 travestito, con la responsabilità ripartita fra nessuno.
Gradino 5 — Esegue e rende conto
L'agente agisce e nessuno guarda caso per caso. Quello che si controlla è l'aggregato: un campione settimanale, le metriche di sempre e le eccezioni che il sistema stesso solleva. Non è assenza di supervisione, è supervisione statistica — e funziona solo se il sistema sa dichiarare quando non è sicuro. Un agente che non ha modo di dire «questo non mi è chiaro» non può stare al gradino 5, perché i suoi errori arrivano con la stessa faccia dei suoi successi.
Pochissimi compiti arrivano qui, e quelli che ci arrivano hanno lo stesso profilo: volume alto, errore economico, correzione rapida. Classificare, instradare, etichettare, estrarre campi da un documento perché un altro sistema li validi. Quando il volume di ciò che va controllato smette di stare dentro una persona, la supervisione diventa una funzione con un processo suo, e questo è già supervisione umana dell'IA su scala.
I tre criteri per salire un gradino («va bene» non è uno di questi)
Un gradino si sale con evidenza, e l'evidenza sono tre numeri che devono essere a favore contemporaneamente. Due su tre non autorizza niente.
1. Volume di casi visti
Con venti casi non sai niente: sai che l'agente funziona nei venti casi che gli sono capitati. Quello che serve non è un numero magico, è aver visto i casi strani: il cliente che scrive in due lingue, la fattura senza numero d'ordine, il mese di chiusura, il fornitore che risponde con un PDF scansionato al contrario. Una regola pratica: se non sai nominare tre casi strani che l'agente ha già risolto bene, stai ancora misurando il facile.
2. Tasso di correzione umana — e la sua forma
La percentuale di volte in cui la persona ha cambiato quello che l'agente proponeva. Ma il numero da solo, senza la sua forma, inganna. Un 10 % di correzioni distribuite a caso è rumore tollerabile. Un 10 % concentrato sempre sullo stesso tipo di caso è un buco noto che la media ti sta nascondendo, e salire un gradino con quel buco aperto vuol dire automatizzare esattamente l'errore. Prima di guardare la percentuale, raggruppa le correzioni per motivo; se un motivo si prende più della metà, quel motivo è il lavoro da fare, non la salita.
3. Reversibilità dell'azione
Tre domande, in quest'ordine: si può annullare?, quanto costa annullarlo?, quanto tempo hai prima che sia tardi? Una bozza non inviata è reversibile e gratis. Una mail arrivata a un cliente è reversibile a metà e cara: si sistema con un'altra mail e una conversazione scomoda. Un bonifico eseguito non è reversibile — è un secondo bonifico in senso contrario, con una telefonata in banca di mezzo e una probabilità ragionevole che non torni indietro.
Questo criterio non si compensa con gli altri due. Se l'azione non si può annullare, non importa che il tasso di correzione sia dello 0,1 % su centomila casi: la salita non è autorizzata. La precisione riduce la frequenza dell'errore; non ne riduce il costo.
Cosa resta al gradino 3 per sempre
Ci sono azioni che non salgono neanche con i tre criteri impeccabili. Non è sfiducia nel modello: è che il costo del percentile 1 non lo paga il modello. Tre famiglie:
- Soldi che escono. Pagamenti, bonifici, rimborsi, apertura di un fornitore con coordinate bancarie nuove. La truffa del cambio di IBAN esiste proprio perché questo passaggio è stato automatizzato troppo presto da parecchia gente.
- Persone. Assunzione, stipendio, provvedimenti disciplinari, valutazione, qualsiasi decisione che tocchi il rapporto di lavoro di qualcuno. Qui, per di più, il quadro normativo stringe per conto suo.
- Impegni verso terzi. Contratti, offerte vincolanti, prezzi chiusi, scadenze promesse e qualsiasi comunicazione con un ente pubblico. Quello che esce dalla porta con il tuo nome lo firma una persona.
Questa lista di tre famiglie è nostra, non del regolatore. Ma il regolatore punta nella stessa direzione: l'autorità spagnola per la protezione dei dati raccoglie il principio dei quattro occhi —doppia verifica da parte di persone diverse— e lo propone per i processi automatici con grande impatto sui diritti e sulle libertà delle persone. Non è il regolatore che ti obbliga in Italia, e quel criterio è più ampio e più astratto delle nostre tre famiglie; quello che facciamo qui è calarlo nelle azioni concrete dove, in un'azienda normale, l'errore non si annulla con un clic.
Cosa la norma ti obbliga a poter fare, e cosa non ti dice
Il Regolamento europeo sull'intelligenza artificiale trasforma la supervisione in obbligo per i sistemi ad alto rischio nel suo articolo 14, e in Italia si applica direttamente: il sistema deve essere progettato in modo che persone fisiche possano sorvegliarlo in modo effettivo mentre è in uso, comprendendone capacità e limiti, rilevando anomalie e comportamenti inattesi, e intervenendo o fermandolo. Tradotto nella scala: a qualsiasi gradino, incluso il 5, ci deve essere qualcuno che possa capire, intervenire e fermare. Un pulsante di stop che nessuno ha mai provato non rispetta l'articolo 14; rispetta il verbale della riunione.
Accanto all'obbligo c'è un documento che vale la pena leggere anche se non ti vincola. Nel febbraio 2026 l'autorità spagnola per la protezione dei dati ha pubblicato delle orientazioni sull'intelligenza artificiale agentica dal punto di vista della protezione dei dati. Fra le misure che propone per ridurre i rischi: governance solida del sistema, partecipazione attiva del responsabile della protezione dei dati, valutazione continua delle prestazioni dell'agente, compartimentazione della memoria, tracciabilità del ciclo di vita del dato, supervisione umana significativa, ambienti di isolamento tecnico e controllo stretto degli aggiornamenti. Non è norma italiana: è l'esempio europeo più concreto pubblicato finora, e sul terreno del GDPR la conversazione è la stessa. Fonte: Orientaciones sobre Inteligencia Artificial agéntica, AEPD, versione 1.2, febbraio 2026.
E adesso quello che nessuno dei due fa: darti la scala. La norma ti dice cosa devi essere in grado di fare e in quali operazioni servono due paia di occhi. A quale gradino metti ogni compito è una decisione tua, e per questo va scritta da qualche parte invece di lasciarla nella testa di chi ha montato il sistema. I cinque gradini di questa guida sono una formulazione editoriale nostra, non una classificazione ufficiale: usali, cambiali o inventa i tuoi, ma che esistano per iscritto.
I tre errori che si ripetono quando si sale
Salire a calendario
«Siamo in modalità suggerimento da un mese, tocca salire.» Il tempo non è evidenza di niente: un mese fiacco sono quaranta casi e un mese pieno sono quattrocento. Quello che autorizza la salita è il volume di casi visti, non le settimane passate.
Confondere «non si è rotto» con «va bene»
L'assenza di lamentele non è una metrica. Ai gradini 2 e 3 l'errore dell'agente lo assorbe la persona in silenzio, quindi un sistema può essere mediocre per mesi senza che nessuno lo dica. Se non stai misurando la correzione, non hai evidenza: hai assenza di rumore.
Far salire l'agente intero
È l'errore più caro e il più comune. Un agente fa cinque cose e solo due hanno i numeri per salire; si fa salire l'agente e le altre tre viaggiano gratis. La salita si autorizza per azione, si registra per azione e si annulla per azione. L'idea di un agente che «ormai è autonomo» è la stessa che smonta il mito dell'agente 100 % autonomo: in produzione non c'è un interruttore, c'è una ripartizione.
Come si scrive tutto questo in una tabella di una pagina
Tutta questa guida sta in una tabella che si rivede una volta al mese. Una riga per azione, non per agente:
| Azione | Gradino oggi | Cosa manca per salire | Chi autorizza |
|---|---|---|---|
| Classificare e instradare la posta in arrivo | 4 — esegue e avvisa | Campione settimanale per 3 mesi senza scarti per tipo | Responsabile operativo |
| Scrivere la risposta al cliente | 3 — esegue con conferma | Correzione < 8 % e dispersa per motivo | Responsabile del supporto |
| Emettere la fattura | 3 — tetto permanente | Non sale: soldi che escono | — |
| Estrarre i campi da una bolla di consegna | 5 — rende conto | È già in alto; controllare le eccezioni | Responsabile dell'amministrazione |
- Una riga per azione. Se una riga dice «l'agente del supporto», è scritta male: dividila.
- Gradino di oggi, con la data. Senza data non saprai se è lì da tre settimane o da sette mesi.
- Cosa manca per salire, in numero. «Quando ci sentiamo tranquilli» non è un criterio; «correzione sotto l'8 % e dispersa» sì.
- Un nome che autorizza. Una persona, non un comitato. Se non firma nessuno, non sale niente e il sistema resta al gradino 2 per sempre.
- Segna le righe con tetto permanente. Soldi, persone e impegni verso terzi si portano dietro un «non sale» scritto, così fra un anno nessuno deve tornare a discuterne.
Noi montiamo agenti che partono in ombra e salgono con questa tabella davanti — è quello che fanno i dipendenti IA che mettiamo a lavorare, sopra l'infrastruttura che permette di fermarli e verificarli il giorno in cui serve, dentro la logica generale di creare un agente IA che regga la produzione. Non vendiamo autonomia. Fatturiamo il fatto che ogni gradino si salga con un numero e con un nome dietro.