Il video dura novanta secondi: scrivi una frase, l'agente «lavora da solo» ed esce un risultato impeccabile. Zero umani. Zero attrito. L'hai visto su LinkedIn questa settimana, probabilmente più di una volta. È una demo bellissima. Ed è esattamente questo: una demo. L'agente che si spedisce da solo non esiste in produzione. Quello che funziona davvero — quello che fattura, quello che regge un martedì qualunque — ha una persona dietro, messa proprio nel punto dove conta. Non è un difetto che il prossimo modello sistemerà. È il design.
L'agente IA autonomo è un mito: perché il 100% non compare in produzione
L'autonomia totale viene venduta come una soglia che supereremo «l'anno prossimo». Il problema è che la matematica degli agenti non funziona così. Un agente concatena passi, e gli errori si moltiplicano lungo la strada. Se ogni passo è corretto il 95% delle volte — ottimistico per un LLM attuale —, un processo di 20 passi finisce pulito solo il 36% delle volte. Anche al 99% per passo, un tentativo su cinque a 20 passi fallisce. Non è un bug: è aritmetica. Concatena abbastanza decisioni senza un punto di controllo e la probabilità che tutto vada perfetto tende a zero.
C'è un'aggravante documentata nel 2025 dal paper «The Illusion of Diminishing Returns» (MPI-INF e TU Kaiserslautern): il self-conditioning. Quando la finestra di contesto del modello contiene i propri errori precedenti, diventa misurabilmente più incline a produrne altri — legge il proprio output precedente, interpreta lo schema stabilito come corretto e ci costruisce sopra. L'agente non sbaglia soltanto: sbaglia con tanta più sicurezza quanto più si allontana dall'ultimo umano che l'ha revisionato.
Cosa compri davvero quando ti vendono «autonomia totale»
La parola «autonomo» fa molto lavoro su una landing e pochissimo su un server. Nella demo, autonomo significa «senza umano». In produzione, autonomo quasi sempre significa una di queste tre cose, e nessuna è quella della landing:
- Autonomo dentro una corsia stretta. Fa UNA cosa delimitata, con input prevedibili, e tutto ciò che esce dalla corsia si ferma o sale. È il design giusto. Ma non è «fa il tuo lavoro da solo».
- Autonomo fino al primo caso raro. Funziona nella demo perché la demo non ha casi rari. Il martedì vero sì, ed è lì che il «senza umano» diventa «senza nessuno che si accorga che si è rotto».
- Autonomo con un umano reso invisibile. C'è eccome una persona che revisiona, corregge e sblocca — solo che non compare nel video di vendita. L'umano non è sparito: l'hanno nascosto perché la demo tornasse.
Non è nuovo né esotico. Il report «The GenAI Divide» del MIT (agosto 2025), su 300 deployment pubblici, ha trovato che il 95% dei piloti di IA generativa non muove mai il P&L. Gartner, dal canto suo, prevede che oltre il 40% dei progetti agentici verrà cancellato prima del 2027. La causa ricorrente non è «il modello non è abbastanza sveglio». È aver promesso un sistema che si governa da solo e averlo lasciato andare senza la persona che lo governa.
Dove sta l'umano in un agente che funziona davvero
Human-in-the-loop non è «uno stagista che sorveglia lo schermo per sicurezza». È una decisione di architettura: metti la persona nei tre o quattro punti dove il suo giudizio vale più della velocità del modello, e lasci correre l'agente da solo in tutto il resto. La differenza tra un giocattolo e un sistema è esattamente dove metti quei punti.
| Punto del loop | Cosa fa l'umano | Perché l'IA non lo fa da sola |
|---|---|---|
| Input / trigger | Definisce la corsia e le eccezioni | Il modello non sa cosa è fuori perimetro se nessuno glielo dice |
| Decisione ad alto impatto | Approva prima dell'esecuzione (pagamento, spedizione, contratto) | Il costo di un errore supera di gran lunga quello di attendere un'approvazione |
| Caso raro / bassa confidenza | Riceve l'escalation e decide | Un agente che «improvvisa» sul caso raro è quello che finisce in incidente |
| Revisione periodica | Verifica i casi limite e corregge la rotta | Senza revisione l'agente deriva e nessuno se ne accorge finché il cliente reclama |
Nota cosa NON c'è nella tabella: l'umano non tocca l'80% del volume ripetitivo. Lì l'agente vola in solitaria, e deve farlo. L'errore del mito dell'autonomia totale non è volere autonomia — l'autonomia sul ripetitivo è proprio il valore. L'errore è estenderla al 20% che richiede giudizio, rischio o contesto che il modello non ha. Quel 20% è dove la persona non è di troppo: è dove il sistema smette di essere una demo. È la stessa logica che applichiamo quando costruiamo un agente IA sul serio, dove l'human-in-the-loop non è un extra: è un requisito di architettura.
Perché il settore vende il contrario (e perché ti conviene diffidare)
Vendere «senza umani» è comodo per due motivi. Il primo, commerciale: «sostituisci il tuo team» è un titolo più accattivante di «amplifica il tuo team e lascia il giudizio dove deve stare». Il secondo, di costi: se prometti autonomia totale, non devi far pagare il design del loop, l'observability né l'operazione continua — proprio la parte cara e difficile, quella che davvero tiene in vita un agente oltre il trimestre. Lo stesso teatro di sempre con una scenografia nuova: si fa pagare la sensazione di magia, non il sistema che regge.
E attenzione, questo NON è un argomento per non automatizzare. Al contrario: automatizza tutto ciò che si può automatizzare bene. Il punto è un altro — sapere cosa lasciare all'agente e cosa far salire a una persona — ed è esattamente la disciplina che separa un'implementazione seria da un pilota zombie. Lo sviluppiamo in quando NON automatizzare un processo con l'IA: l'autonomia non è un interruttore tutto-o-niente, è una manopola che si calibra processo per processo.
Quindi, l'autonomia totale è una bugia?
Non è una bugia: è prematura, e applicata dove non va. Per compiti brevi, delimitati e a basso rischio, un agente già oggi corre da solo in modo affidabile — ed è l'80% che dovresti automatizzare senza chiedere il permesso a nessuno. Per processi lunghi, con decisioni ad alto impatto o casi rari frequenti, l'autonomia totale del 2026 è marketing: la curva di affidabilità non arriva ancora così lontano. L'agente che funziona non è quello che licenzia l'umano; è quello che lo mette nei quattro punti giusti e lo toglie dagli altri venti. Meno spettacolo, più sistema.
Se quello che vuoi è un agente che regge un martedì vero — e non un video di novanta secondi —, è questo che consegniamo: processi con l'umano nel loop dove conta e l'agente che corre da solo dove non conta. Si chiama automazione delle operations, e lo lasciamo a misurare, non ad applaudire.