Cos'è «l'umano nel loop» (e cosa non è)
L'umano nel loop è il punto in cui una persona valida, corregge o autorizza ciò che fa un sistema automatizzato prima che l'azione abbia conseguenze. Non è «qualcuno che sorveglia lo schermo tutto il giorno» né «uno stagista che rivede il 100 % del lavoro dell'agente». È intervento nei punti che contano e assenza deliberata in tutto il resto.
La confusione tipica è trattarlo come un interruttore: o il sistema è autonomo o c'è un umano dietro ogni decisione. In produzione non funziona così. L'umano nel loop è una manopola che si regola per tipo di decisione — controllo massimo dove l'errore costa caro, zero attrito dove il volume comanda e uno sbaglio è economico da correggere. Questa guida parla di dove mettere quella manopola. Per la visione completa di cosa automatizzare, parti da automatizzare con l'IA.
I tre posti dove può stare la validazione
Prima di decidere «quanto umano», conviene sapere che ci sono tre posizioni distinte. Quasi tutti i progetti confondono la prima con l'unica:
| Posizione | Cosa fa l'umano | Quando usarla |
|---|---|---|
| In-the-loop (nel loop) | Approva ogni azione prima che venga eseguita. La macchina propone, la persona dispone. | Alto impatto, bassa frequenza: inviare denaro, firmare, rispondere a un cliente arrabbiato, cancellare dati. |
| On-the-loop (sul loop) | La macchina agisce da sola; la persona supervisiona e può intervenire o annullare. | Volume medio con errore recuperabile: classificare ticket, redigere bozze, spostare un lead di uno stadio. |
| Out-of-the-loop (fuori dal loop) | La macchina agisce da sola; l'umano guarda solo metriche e casi limite dopo. | Alto volume, errore economico, regola chiara: etichettare, estrarre dati, ordinare, rispondere alle domande frequenti. |
L'errore caro è mettere tutto il sistema «in-the-loop» per paura. Se una persona deve approvare ognuna delle 4.000 azioni quotidiane, non hai automatizzato nulla: hai aggiunto un collo di bottiglia con lo stipendio. La rete non si tende ugualmente stretta ovunque.
Come decidere cosa si approva e cosa si lascia passare
La decisione non è filosofica, è una matrice a due assi: quanto costa l'errore e ogni quanto capita l'azione.
- Costo alto + bassa frequenza → in-the-loop. Approvare una a una costa poco perché sono poche, e sbagliare costa caro. Esempio: rimborsi sopra i 500 €.
- Costo alto + alta frequenza → ridisegnare, non approvare. Se qualcosa di caro capita spesso, il collo di bottiglia umano non scala. Si delimita con regole dure (tetti, liste bianche) e l'umano vede solo le eccezioni. Esempio: pagamenti a fornitori con tetto automatico e revisione solo sopra la soglia.
- Costo basso + alta frequenza → out-of-the-loop. Lascia correre e misura. Mettere un umano qui è bruciare denaro. Esempio: classificare 2.000 email al giorno.
- Costo basso + bassa frequenza → automatizzare senza drammi. Non merita nemmeno supervisione attiva.
Quasi nessun processo sta in una sola casella. Un flusso di supporto reale mescola tutte e quattro: l'agente risponde da solo alle domande frequenti (out), redige bozze per i casi medi che un umano rivede (on) ed escala rimborsi e reclami gravi a una persona (in). Il design sta nel mettere ogni azione nella sua casella, non nello sceglierne una per tutto il sistema.
Come si stringe la rete nel tempo
L'umano nel loop non è una foto fissa: è una rete che parte stretta e si apre man mano che il sistema dimostra di azzeccarci. Lo schema che funziona:
- Settimana 1-2: l'umano rivede il 100 %. Non per approvare tanto per, ma per etichettare: «questo era giusto», «questo no». Quelle etichette sono il dato che dice dove il sistema è affidabile e dove no.
- Settimana 3-6: si rilasciano le categorie con accuratezza alta e costante. L'umano smette di rivedere ciò che sa già funzionante e concentra l'attenzione sul dubbio.
- Dal mese 2 in poi: revisione a campione e per eccezione. Il sistema corre da solo sul collaudato; l'umano vede una percentuale casuale (per cogliere la deriva) e tutti i casi che il sistema stesso segna come strani (bassa confidenza, fuori schema).
Stringere la rete richiede una condizione: che il sistema registri ogni decisione con il suo contesto e il suo esito. Questa governance — permessi con ambito, audit e freno a mano — è la stessa che si monta quando si integra l'IA con i tuoi sistemi. Senza log non sai dove azzecca, quindi non puoi rilasciare nulla con criterio e resti a rivedere tutto per sempre, che è l'altro fallimento.
I due errori che uccidono il risparmio
Ci sono due modi per rovinare tutto, e sono opposti.
Umano in tutto. Per paura o per auditare, qualcuno approva ogni azione. Il sistema «ha supervisione» sulla carta, ma il risparmio è zero: hai scambiato il lavoro manuale con il lavoro di approvare lavoro. Segnale d'allarme: la persona che supervisiona è satura e approva col pilota automatico — cioè non supervisionare, con passaggi in più.
Umano in niente. Si rilascia tutto il sistema il giorno uno «perché la demo andava bene». Funziona fino al primo caso strano — e c'è sempre un caso strano — che nessuno vede finché un cliente non si lamenta o non compare in fattura. L'autonomia totale senza rete non è maturità: è non aver ancora misurato. È lo stesso miraggio che smontiamo parlando di montare processi interni con agenti.
La via di mezzo non è «un po' di umano in tutto». È molto umano dove l'errore costa e zero umano dove non costa, con il confine che si sposta secondo ciò che dicono i log. È ciò che separa un'automazione che regge un martedì vero da una demo fortunata — ed è esattamente ciò che montiamo nell'automazione delle operazioni: il sistema che corre da solo dove può e la persona che decide dove pesa.