La proposta arriva impaginata alla perfezione. Quaranta pagine, uno schema con dodici riquadri e un nome per ognuno: cluster di GPU, data lake, database vettoriale dedicato, piattaforma di orchestrazione, livello MLOps. Budget a sei cifre. E una frase a pagina tre che nessuno sottolinea: «su questa base si potranno poi rilasciare i primi casi d'uso». Tradotto: il primo agente arriverà dopo. Se arriva.
La tesi in una riga: se la tua azienda non addestra modelli —e quasi nessuna lo fa—, la sua infrastruttura IA non è un problema di hardware, è un problema di tubature. Quattro livelli decidono se un agente arriva in produzione: come legge i tuoi dati, con quale identità agisce, da dove chiama il modello e che traccia lascia. Tutto il resto si compra quando un sintomo concreto lo chiede. Non prima.
Infrastruttura IA per aziende: se non addestri modelli, non è un problema di GPU
Cerca «infrastruttura IA» e troverai soprattutto produttori di hardware e grandi cloud che spiegano calcolo accelerato, storage ad alte prestazioni e reti per l'addestramento. Spiegazione corretta per chi addestra o serve modelli propri. Per un'azienda che usa modelli tramite API —cioè la stragrande maggioranza—, quel livello l'ha già comprato il fornitore del modello e te lo fa pagare a token.
Quello che resta dalla tua parte è un'altra cosa: il percorso tra i tuoi sistemi e il modello. Ed è lì che i progetti cadono. Gartner lo mette in numeri in due previsioni da leggere insieme: in un sondaggio globale tra responsabili dei dati pubblicato a febbraio 2025, il 63% delle organizzazioni non aveva, o non sapeva se aveva, pratiche di gestione del dato adatte all'IA, e la società prevede che entro il 2026 le organizzazioni abbandoneranno il 60% dei progetti di IA senza dati pronti (Gartner, 2025). A giugno dello stesso anno ha aggiunto che oltre il 40% dei progetti di IA agentica sarà cancellato entro la fine del 2027 per costi fuori controllo, valore poco chiaro o controlli del rischio insufficienti (Gartner, 2025).
Guarda l'elenco delle cause: dato, costo, rischio. Nessuna è mancanza di potenza di calcolo. Sono previsioni di analisti, non fatti acquisiti, ma puntano tutte allo stesso punto: l'infrastruttura che cede è quella che collega, non quella che calcola.
I quattro livelli che servono davvero prima del primo agente
Non devono essere grandi. Devono esistere, avere un responsabile ed essere pensati perché il secondo agente usi gli stessi invece di costruirsi i suoi.
- Accesso al dato. Da dove l'agente legge ciò che gli serve: un'API dell'ERP, una vista in sola lettura sul database, una cartella sincronizzata. La regola: legge da una fonte con un responsabile, non da un Excel esportato a mano il lunedì. Come farlo senza rifare i tuoi sistemi lo spieghiamo nella guida per integrare l'IA con ERP, CRM e gestione documentale.
- Identità e permessi. L'agente agisce con un account proprio, limitato al suo compito, con una revoca provata almeno una volta. Mai con l'account di chi l'ha costruito. È il livello più economico da fare bene all'inizio e il più caro da sistemare dopo: i dettagli sono in quali permessi dare a un agente IA.
- Gateway dei modelli. Un unico punto da cui passano tutte le chiamate al modello, invece di una chiave API incollata in ogni strumento. Ti dà tre cose in un colpo: cambiare fornitore senza toccare ogni agente, mettere un tetto di spesa e sapere quale agente consuma cosa. Quali modelli metterci dietro è un'altra decisione, trattata in quale modello usare in un agente.
- Tracciamento. Ogni esecuzione registra cosa è entrato, cosa ha deciso l'agente, quali strumenti ha chiamato e cosa è uscito. Senza, non puoi spiegare un errore, misurare la qualità o rispondere a un auditor. Non serve una piattaforma: con strumenti aperti si monta uno stack minimo di osservabilità.
Cosa ti vendono in più (e quando smette di esserlo)
Niente di quello che segue è fumo. Tutto ha il suo momento. Il problema è comprarlo prima del sintomo che lo giustifica, perché allora paghi la manutenzione di qualcosa che non usa nessuno.
| Pezzo | Te lo vendono per | Serve quando |
|---|---|---|
| GPU o cluster proprio | «Indipendenza» e privacy | Addestri o servi modelli propri, oppure il volume di chiamate rende l'API più cara che gestire il modello in casa |
| Database vettoriale dedicato | Fare RAG «come si deve» | I tuoi documenti superano ciò che un'estensione vettoriale sul database che hai già gestisce con latenza accettabile |
| Piattaforma di orchestrazione di agenti | Governare «tutti gli agenti» | Hai diversi agenti con responsabili diversi e non sai più quali esistono né cosa toccano |
| Livello MLOps completo | Industrializzare dal primo giorno | Hai modelli addestrati da te che vengono riaddestrati e versionati |
| Nuovo data lake | Avere «il dato pronto per l'IA» | Il caso d'uso deve incrociare fonti che oggi non si possono incrociare in nessun altro modo |
Nota che la colonna di destra descrive un sintomo osservabile, non un'aspirazione. È la differenza tra comprare infrastruttura e comprare tranquillità. La tranquillità costa di più e non si misura.
Come cresce l'infrastruttura da un agente a venti senza rifarla?
Il bello di partire dai quattro livelli è che scalano senza essere buttati. Con il numero di agenti cambia lo spessore di ciascuno, non la sua esistenza.
- Un agente. Una fonte di lettura, un account di servizio, un gateway semplice e tracce su uno storage economico. Ci sta in quello che già paghi.
- Cinque agenti. Arrivano la fattura che non ti aspettavi —traffico, chiamate tra sistemi, tracce— e il bisogno di attribuire il costo per agente. Lo raccontiamo in la fattura che ti alza l'agente è quella di un'altra cosa. Qui il gateway smette di essere opzionale.
- Venti agenti. Ci sono responsabili diversi, ambienti di test e produzione, e qualcuno che chiede quanti agenti ha l'azienda. È il momento in cui un inventario e, forse, una piattaforma di gestione iniziano a ripagarsi.
Se a ogni salto hai dovuto rifare il livello sotto, era progettato male. Se hai solo dovuto irrobustirlo, era fatto bene.
Quando NON serve montare niente di tutto questo
Se hai un assistente di chat che il team usa per scrivere e riassumere, senza toccare i tuoi sistemi, non ti serve un'infrastruttura IA: ti servono una licenza aziendale con condizioni chiare sui dati e una policy d'uso. Non serve nemmeno per un pilota di due settimane che non scrive in nessun sistema. I quattro livelli entrano in gioco quando un agente legge dati aziendali o agisce a tuo nome. Prima, qualsiasi architettura è la risposta a una domanda che non hai ancora fatto.
E se la tua realtà è piccola e hai già due o tre agenti in funzione, non ti serve un livello piattaforma per governarli: bastano pochi controlli minimi messi bene, che spieghiamo in AgentOps per PMI senza team di piattaforma.
Cinque domande prima di firmare un progetto di infrastruttura IA
- Qual è il primo agente che girerà su tutto questo, e in quale settimana?
- Quale riquadro dello schema si potrebbe togliere senza che quel primo agente se ne accorga?
- Chi è responsabile di ciascuno dei quattro livelli quando il progetto finisce?
- Come si cambia fornitore di modello senza toccare il codice di ogni agente?
- Quanto costa gestire tutto questo al mese quando nessuno del fornitore sta guardando?
Se le risposte arrivano concrete, la proposta è seria. Se arrivano sotto forma di fase due, stai pagando in anticipo un'infrastruttura per casi che ancora non esistono. Progettare i quattro livelli per il tuo primo agente e lasciarli pronti per il ventesimo —senza lo schema a dodici riquadri— è esattamente il lavoro della nostra infrastruttura IA aziendale. E una volta in marcia, monitorare l'IA in produzione evita che il livello di tracciamento diventi un log che nessuno legge.
La frase per la prossima riunione: «Prima di parlare della piattaforma, dimmi da dove legge l'agente, con quale account agisce, da dove chiama il modello e dove lascia la sua traccia».