Scenario illustrativo. In un lunedì di campagna, l'agente di assistenza che funziona benissimo tutto l'anno riceve in un'ora quello che di solito riceve in un giorno. I primi messaggi vanno bene. Dopo venti minuti partono i tentativi ripetuti, la coda cresce, il fornitore del modello restituisce errori di limite e la casella delle persone, che doveva raccogliere ciò che l'agente non risolve, si riempie di colpo. Nessuno ha rotto niente: il sistema non aveva mai provato quel giorno.
La tesi in una riga: un agente dimensionato sulla giornata media non cede nel picco perché è scarso, cede perché nessuno ha deciso prima cosa si degrada per primo. Il picco non si supera con più potenza; si supera con un ordine di caduta concordato in anticipo.
Perché un agente IA cede nei picchi di domanda?
Perché i picchi di domanda non sollecitano ciò che hai testato (la qualità della risposta) ma ciò che davi per scontato (tutto quello che c'è intorno). Quattro punti di rottura, quasi sempre gli stessi:
- Limiti di frequenza e quote. Il fornitore del modello limita quante richieste e quanti token al minuto accetti. Se più agenti condividono una chiave, il picco di uno si mangia la quota degli altri. I limiti reali dipendono da fornitore e piano: guardali prima, non durante.
- Code e tentativi ripetuti. Un retry senza freno trasforma un guasto isolato in una valanga: ogni richiesta fallita rientra e peggiora l'ingorgo che l'ha fatta fallire.
- Costo. Con più volume, conversazioni più lunghe e più chiamate a strumenti, la spesa cresce più in fretta del traffico. Senza un tetto lo scopri a fine mese, quando non c'è più nulla da decidere.
- Persone sommerse. L'agente passa i casi difficili alle persone; nel picco ne passa di più, tutti insieme. Se la casella umana non regge, il collo di bottiglia non sparisce: si sposta.
Nota cosa manca nell'elenco: il modello. Non è quasi mai il modello. È tutto ciò che gli sta attorno, e quello si può provare.
Cosa provare prima del picco?
Provare significa fare, in tempo, la versione piccola del disastro. Non serve un'esercitazione enorme; serve una onesta. Una sequenza minima:
- Misura la tua giornata media e fissa il picco atteso con dati reali delle ultime campagne o chiusure, non a sensazione. Niente storico? Parti dalle tue ore peggiori note.
- Aumenta il carico in un ambiente di test e osserva dove compare il primo limite: frequenza, coda, strumento esterno o persona. Quello è il tuo vero collo di bottiglia, non quello che supponevi.
- Prova il guasto, non solo il carico. Stacca apposta lo strumento esterno, simula l'errore di limite del fornitore e guarda cosa fa l'agente: se inventa, tace o riprova all'infinito, sai cosa sistemare. Testare le modifiche senza rompere l'automazione serve anche a questo.
- Imposta tetti di spesa e allarmi per sistema, con un avviso prima del tetto e non dopo, e una persona con nome e cognome che lo riceva durante il picco.
- Prova il passaggio alle persone. Quanti casi all'ora assorbe chi è di turno e che ne è del resto? È ciò che quasi nessuno testa e ciò che si nota di più; come progetti lo human-in-the-loop decide se quella persona è un freno o una rete.
E misura mentre provi: senza rilevamento dei guasti nelle automazioni, un picco degradato può sembrare un picco tranquillo.
Cosa degradare apposta per non crollare?
Degradare con eleganza significa decidere, prima che serva, cosa smette di fare per prima l'agente. È la logica dei livelli di autonomia di un agente applicata al tempo: nel picco l'agente scende di un gradino invece di cadere dal palazzo.
| Cosa si rompe | Degradazione possibile | Cosa proteggi |
|---|---|---|
| Quota del fornitore esaurita | Passare a un modello più leggero per le richieste semplici e tenere quello potente per le critiche | I casi importanti continuano a ricevere risposta |
| Coda in crescita | Conferma immediata con un termine realistico ed elaborazione in background | La fiducia del cliente: sa che il suo caso esiste |
| Costo oltre il tetto | Limitare strumenti costosi e lunghezza delle conversazioni; mandare il resto a un modulo | Il budget, senza spegnere il servizio |
| Persone sommerse | Smistare per urgenza e rimandare il non urgente con una data, invece di passare tutto | Le persone e i casi che non possono aspettare |
Niente di tutto questo è glamour, ed è per questo che funziona: sono decisioni di gestione, prese con calma un martedì di ottobre, non alle nove del mattino del Black Friday. Se preferisci che le regga chi gestisce il sistema, è esattamente ciò che coprono garantire la disponibilità dell'IA e monitorare l'IA in produzione.
Chi decide cosa si spegne durante il picco?
Una degradazione concordata serve solo se qualcuno ha l'autorità di attivarla sul momento. In pieno picco non c'è tempo di convocare un comitato, quindi la decisione si prende prima: si scrive una pagina con tre cose.
- Il trigger. Il segnale concreto che attiva ogni degradazione: la coda supera una certa dimensione, la spesa supera una certa percentuale del tetto, il fornitore restituisce errori di limite per diversi minuti di fila. Senza un trigger misurabile, ogni decisione diventa un dibattito.
- Il responsabile. Una persona con nome, più un sostituto, che può attivare la degradazione senza chiedere il permesso a nessuno. L'autorità delegata in anticipo è ciò che trasforma un piano in un interruttore.
- La strada del ritorno. Come e quando si ripristina il comportamento normale, e chi rivede ciò che è stato rimandato durante il picco. Una degradazione che nessuno disattiva diventa il nuovo standard senza che nessuno lo abbia deciso.
Con quella pagina, il picco smette di essere improvvisazione alle nove del mattino e diventa una procedura. E ciò che hai imparato quel giorno si annota per la prossima volta: cosa ha attivato ogni degradazione, quanto è durata e cosa faresti diversamente.
Quando non serve preparare il picco?
Quando il picco è prevedibile e piccolo, quando l'agente non è sul percorso critico (se cade, le persone aspettano, nessun ordine va perso) o quando restare fermi un po' costa meno che prepararsi. Un agente interno di consultazione più usato il lunedì non richiede esercitazioni; uno che prende ordini durante una campagna sì. Prepararsi troppo è teatro anche questo.
La frase da portarsi via: non dimensionare per la giornata media né per quella da sogno; decidi in quale ordine crolla la giornata brutta, e provalo.
Nota: questo articolo non usa cifre di terzi. I limiti di frequenza e i prezzi dipendono da fornitore e piano, e cambiano; controlla la documentazione del tuo fornitore prima di dimensionare. Lo scenario iniziale è illustrativo.