La proposition arrive impeccablement mise en page. Quarante pages, un schéma à douze cases et un nom pour chacune : cluster de GPU, data lake, base de données vectorielle dédiée, plateforme d'orchestration, couche MLOps. Un budget à six chiffres. Et une phrase en page trois que personne ne souligne : « sur ce socle pourront être déployés les premiers cas d'usage ». Autrement dit, le premier agent viendra après. S'il vient.
La thèse en une ligne : si votre entreprise n'entraîne pas de modèles —et presque aucune ne le fait—, son infrastructure IA n'est pas un problème de matériel, c'est un problème de tuyauterie. Quatre couches décident si un agent arrive en production : comment il lit vos données, sous quelle identité il agit, par où il appelle le modèle et quelle trace il laisse. Tout le reste s'achète quand un symptôme précis le réclame. Pas avant.
Infrastructure IA en entreprise : si on n'entraîne pas de modèles, ce n'est pas un problème de GPU
Cherchez « infrastructure IA » et vous tomberez surtout sur des fabricants de matériel et des grands clouds qui expliquent le calcul accéléré, le stockage haute performance et le réseau pour l'entraînement. C'est la bonne explication pour qui entraîne ou sert ses propres modèles. Pour une entreprise qui consomme des modèles via une API —l'immense majorité—, cette couche, le fournisseur du modèle l'a déjà achetée et vous la facture au token.
Ce qui reste de votre côté, c'est autre chose : le chemin entre vos systèmes et le modèle. Et c'est sur ce chemin que les projets tombent. Gartner le chiffre dans deux prédictions qu'on gagne à lire ensemble : dans une enquête mondiale auprès de responsables de la donnée publiée en février 2025, 63 % des organisations n'avaient pas, ou ne savaient pas si elles avaient, des pratiques de gestion des données adaptées à l'IA, et le cabinet prévoit que d'ici 2026 les organisations abandonneront 60 % des projets d'IA privés de données prêtes (Gartner, 2025). En juin de la même année, il a ajouté que plus de 40 % des projets d'IA agentique seront annulés d'ici fin 2027 à cause de coûts qui s'envolent, d'une valeur peu claire ou de contrôles des risques insuffisants (Gartner, 2025).
Regardez la liste des causes : donnée, coût, risque. Aucune n'est un manque de puissance de calcul. Ce sont des prédictions d'analyste, pas des faits établis, mais elles pointent toutes au même endroit : l'infrastructure qui casse, c'est celle qui connecte, pas celle qui calcule.
Les quatre couches indispensables avant le premier agent
Elles n'ont pas besoin d'être grandes. Elles doivent exister, avoir un responsable et être pensées pour que le deuxième agent utilise les mêmes au lieu de monter les siennes.
- Accès à la donnée. Par où l'agent lit ce dont il a besoin : une API de l'ERP, une vue en lecture seule sur la base, un dossier synchronisé. La règle : il lit une source qui a un responsable, pas un Excel exporté à la main le lundi. Comment faire sans refaire vos systèmes, on l'explique dans le guide pour intégrer l'IA à votre ERP, CRM et GED.
- Identité et permissions. L'agent agit avec son propre compte, limité à sa tâche, avec une révocation testée au moins une fois. Jamais avec le compte de celui qui l'a monté. C'est la couche la moins chère à bien faire au départ et la plus chère à réparer ensuite : le détail est dans quelles permissions donner à un agent IA.
- Passerelle de modèles. Un point unique par lequel passent tous les appels au modèle, au lieu d'une clé d'API collée dans chaque outil. Trois bénéfices d'un coup : changer de fournisseur sans toucher chaque agent, plafonner la dépense et savoir quel agent consomme quoi. Quels modèles mettre derrière, c'est une autre décision, traitée dans quel modèle utiliser dans un agent.
- Traçabilité. Chaque exécution enregistre ce qui est entré, ce que l'agent a décidé, quels outils il a appelés et ce qui est sorti. Sans ça, impossible d'expliquer une erreur, de mesurer la qualité ou de répondre à un auditeur. Pas besoin de plateforme : des outils ouverts suffisent pour une stack minimale d'observabilité.
Ce qu'on vous vend en trop (et quand ça cesse de l'être)
Rien de ce qui suit n'est du vent. Tout a son moment. Le problème, c'est de l'acheter avant le symptôme qui le justifie : on paie alors la maintenance d'un truc que personne n'utilise.
| Brique | On vous la vend pour | Elle devient utile quand |
|---|---|---|
| GPU ou cluster maison | « L'indépendance » et la confidentialité | Vous entraînez ou servez vos propres modèles, ou le volume d'appels rend l'API plus chère que d'opérer le modèle vous-même |
| Base vectorielle dédiée | Faire du RAG « comme il faut » | Vos documents dépassent ce qu'une extension vectorielle sur la base que vous avez déjà gère avec une latence acceptable |
| Plateforme d'orchestration d'agents | Gouverner « tous les agents » | Vous avez plusieurs agents aux responsables différents et vous ne savez plus lesquels existent ni ce qu'ils touchent |
| Couche MLOps complète | Industrialiser dès le premier jour | Vous avez des modèles entraînés par vous qu'on réentraîne et qu'on versionne |
| Nouveau data lake | Avoir « la donnée prête pour l'IA » | Le cas d'usage doit croiser des sources impossibles à croiser autrement aujourd'hui |
Notez que la colonne de droite décrit un symptôme observable, pas une aspiration. C'est la différence entre acheter de l'infrastructure et acheter de la tranquillité. La tranquillité coûte plus cher et ne se mesure pas.
Comment l'infrastructure passe-t-elle d'un agent à vingt sans tout refaire ?
L'intérêt de commencer par les quatre couches, c'est qu'elles grandissent sans être jetées. Ce qui change avec le nombre d'agents, c'est l'épaisseur de chacune, pas son existence.
- Un agent. Une source de lecture, un compte de service, une passerelle simple et des traces sur un stockage bon marché. Ça tient dans ce que vous payez déjà.
- Cinq agents. Arrivent la facture qu'on n'attendait pas —trafic, appels entre systèmes, traces— et le besoin d'attribuer le coût par agent. On le raconte dans la facture que fait grimper l'agent, c'est celle d'autre chose. Là, la passerelle n'est plus optionnelle.
- Vingt agents. Il y a des responsables différents, des environnements de test et de production, et quelqu'un qui demande combien d'agents tourne l'entreprise. C'est le moment où un inventaire et, peut-être, une plateforme de gestion commencent à se rentabiliser.
Si à chaque palier il a fallu refaire la couche du dessous, elle était mal conçue. S'il a seulement fallu l'épaissir, elle était bonne.
Quand on n'a PAS besoin de monter tout ça
Si ce que vous avez, c'est un assistant de chat que l'équipe utilise pour rédiger et résumer, sans toucher à vos systèmes, vous n'avez pas besoin d'infrastructure IA : il vous faut une licence entreprise aux conditions de données claires et une politique d'usage. Pas besoin non plus pour un pilote de deux semaines qui n'écrit dans aucun système. Les quatre couches entrent en jeu dès qu'un agent lit des données de l'entreprise ou agit en son nom. Avant, toute architecture répond à une question qu'on n'a pas encore posée.
Et si votre structure est petite et fait déjà tourner deux ou trois agents, pas besoin d'une couche plateforme pour les gouverner : quelques contrôles minimaux bien placés suffisent, on les détaille dans AgentOps pour les PME sans équipe plateforme.
Cinq questions avant de signer un projet d'infrastructure IA
- Quel est le premier agent qui tournera là-dessus, et quelle semaine ?
- Quelle case du schéma pourrait-on retirer sans que ce premier agent s'en aperçoive ?
- Qui est responsable de chacune des quatre couches une fois le projet terminé ?
- Comment change-t-on de fournisseur de modèle sans toucher au code de chaque agent ?
- Combien coûte l'exploitation de tout ça par mois quand personne du prestataire ne regarde ?
Si les réponses sont concrètes, la proposition est sérieuse. Si elles arrivent sous forme de phase deux, vous payez d'avance une infrastructure pour des cas qui n'existent pas encore. Concevoir les quatre couches pour votre premier agent et les laisser prêtes pour le vingtième —sans le schéma à douze cases—, c'est exactement le travail de notre offre infrastructure IA entreprise. Et une fois en route, surveiller l'IA en production évite que la couche de traçabilité finisse en journal que personne ne lit.
La phrase pour la prochaine réunion : « Avant de parler plateforme, dites-moi où lit l'agent, sous quel compte il agit, par où il appelle le modèle et où il laisse sa trace ».