La tesi in una frase: l’IA non allucina per cattiveria né per un difetto di fabbrica che qualcuno ha scordato di correggere. Allucina perché è esattamente ciò che fa un modello linguistico quando non sa qualcosa —riempire il vuoto con la continuazione più plausibile—. Trattarlo come un difetto morale (« l’IA mente ») porta alla decisione sbagliata: aspettare che esca un modello « onesto ». Non uscirà. Quello che puoi fare è accerchiare l’allucinazione con grounding, citazioni e una persona nel giro dove conta. E pretendere dal fornitore che l’abbia montato, invece di venderti un pappagallo sicuro di sé.
Perché l’IA allucina in azienda: non è un difetto morale, è come funziona
Un modello linguistico non consulta una base di fatti per restituirti quello che combacia. Predice la parola successiva. Data la tua domanda, calcola quale testo è più probabile a seguire e lo scrive, token dopo token. Non ha dentro un interruttore che distingue « questo è vero » da « questo suona vero ». Quando la risposta corretta è ben rappresentata in ciò che ha imparato, la continuazione più probabile coincide con il fatto. Quando no —un dato tuo, una cifra precisa, qualcosa cambiato ieri—, il modello non tace: produce la stringa che suona meglio, con lo stesso aplomb. Questa è l’allucinazione. Non è il sistema rotto; è il sistema che funziona come è stato progettato.
Non è l’opinione di un consulente controcorrente. OpenAI l’ha formalizzato in « Why Language Models Hallucinate » (settembre 2025): i modelli allucinano in gran parte perché l’addestramento e, soprattutto, le valutazioni premiano l’indovinare più del dire « non lo so ». Un modello che rischia una risposta a volte ci azzecca e alza il voto; uno che ammette il dubbio non fa mai punti. Così imparano a essere bravi esaminandi: rispondono sempre, sicuri, anche senza il dato (« Why Language Models Hallucinate », OpenAI, 2025). Tradotto nella tua azienda: di default hai uno strumento addestrato a non tacere mai —l’esatto contrario di ciò che vuoi quando la risposta va a un cliente—.
L’allucinazione non si cura: si accerchia
La prima conseguenza pratica è mollare la fantasia. Non esiste il modello che « non allucina più ». Puoi abbassare il tasso, puoi rendere verificabili la maggior parte delle sue affermazioni, puoi mettere un freno umano dove l’errore costa caro. Quello che non puoi è comprare la versione che garantisce zero. Chi te la vende ti vende fumo —o non capisce cosa vende—. La domanda utile non è « questo modello allucina? » (lo fanno tutti), ma « cosa avete montato attorno al modello perché, quando allucina, non arrivi mai in produzione? ».
Le tre leve che davvero abbassano l’allucinazione
Controllare l’allucinazione in azienda non è un trucco di prompt né un’impostazione segreta. Sono tre pezzi di ingegneria, e tutti e tre sono pretendibili.
- Grounding / RAG: che risponda con i TUOI documenti davanti, non a memoria. Invece di lasciare che il modello risponda con quello che « ricorda » dell’addestramento, il sistema cerca prima nella tua documentazione i frammenti rilevanti e glieli mette davanti perché risponda su quelli. Il fatto vive fuori dal modello, in una base che controlli tu. Non elimina l’allucinazione, ma la riduce dove fa più male: sui tuoi dati che il modello non potrebbe mai sapere a memoria. Come si monta questo strato —quali documenti, come si spezzettano, come si recuperano— lo dettagliamo in come addestrare un agente con la tua stessa informazione.
- Citazioni: che ogni affermazione dica da dove esce. Un sistema serio non si limita a rispondere; mostra la fonte di ogni risposta, con il frammento esatto che ha usato. Questo trasforma l’allucinazione da invisibile ad auditabile: se la citazione non regge ciò che dice, la scarti. E se il sistema non può citare da dove esce una risposta, quella risposta non va in produzione. La stessa logica per cui un’IA sceglie chi citare quando risponde la raccontiamo in quali fonti cita l’IA e perché: senza fonte tracciabile, niente fiducia.
- Umano nel giro dove conta (non ovunque). Mettere una persona a rivedere ogni risposta ammazza il risparmio; non metterla in nessuna è una roulette. Il design corretto mette il freno umano solo dove l’errore è costoso o irreversibile —un importo, un impegno legale, un messaggio al cliente— e lascia passare solo ciò che è facile da disfare. L’allucinazione smette di essere un rischio di business quando l’unico punto in cui può fare danno ha un umano davanti.
Cosa pretendere dal fornitore (le domande che gli rompono il copione)
Ecco il perché di tutto questo: non serve essere ingegneri per separare chi ha montato il controllo da chi ti vende fiducia. Serve fare le domande che un buon fornitore risponde senza sudare e uno cattivo schiva. Portale al prossimo meeting.
- « Da dove tira fuori le risposte: dalla sua memoria o dai miei documenti? » Se la risposta è « dal modello, è bravissimo », manca il grounding. Vuoi sentire « recupera dalla tua base e risponde su quella ».
- « Posso vedere la fonte di ogni risposta? » Senza citazione tracciabile, non c’è modo di auditare quando allucina. Un « fidati, non sbaglia quasi mai » è esattamente ciò che non puoi accettare.
- « Cosa succede quando NON sa la risposta? » La risposta giusta è « dice che non sa o passa a un umano », non « risponde sempre qualcosa ». Un sistema che non dice mai « non lo so » è progettato per indovinare.
- « Dove c’è una persona che rivede e dove no? » Se la risposta è « da nessuna parte, è totalmente automatico » per un processo che tocca soldi o clienti, scappa. Se è « ovunque », non ti fa risparmiare nulla.
- « Come misurate il tasso di errore e ogni quanto? » Senza una cifra di errori misurata contro una base, « funziona benissimo » è un’opinione. Vuoi le eval, non gli applausi.
Un fornitore che monta questo non ti vende un modello; ti vende un sistema con l’idraulica della fiducia inclusa. È la differenza tra accendere un chatbot e mettere in produzione un’infrastruttura di IA aziendale che cita, si auditá e rispetta i permessi —perché in azienda un dato inventato che arriva al cliente non è un incidente tecnico, è una fattura—.
Il fornitore che ti vende « un pappagallo sicuro di sé »
Lo schema da evitare è facile da riconoscere una volta che l’hai visto: è quello che confonde fluidità con affidabilità. La demo va perfetta —risponde veloce, suona convincente, non esita mai— e quella sicurezza è proprio il campanello d’allarme, non la garanzia. Un modello che non dice mai « non lo so » non è più sveglio: è meglio addestrato a indovinare. Segnali che ti stanno vendendo il pappagallo:
- Promette che « non allucina » o che è « affidabile al 100% ». Nessun sistema serio lo promette; promette controlli.
- Non mostra le fonti e non sa spiegare da dove è uscita una risposta precisa.
- Non ha un piano per il « non lo so »: il sistema risponde sempre qualcosa, qualunque cosa accada.
- Misura adozione e « soddisfazione », mai il tasso di errore contro una base.
- La conversazione va sempre sul modello (« usiamo il più potente ») e mai sull’architettura attorno.
Niente di tutto questo pretende che tu capisca come funziona un transformer. Pretende che tu tratti l’IA come qualsiasi altra parte del business che vuoi che renda: con fonti, con un tasso di errore misurato e con qualcuno che sorveglia il punto dove il guasto costa. Se preferisci che quell’idraulica la monti e la sostenga chi ripara anche il processo sotto, è esattamente ciò che fa l’automazione delle operazioni con l’IA: non ti lascia un pappagallo eloquente, ti lascia un sistema che sa quando tacere.