La thèse en une phrase : le jour où un agent fera quelque chose qu'il faudra expliquer, personne ne te demandera son taux de réussite. On te demandera ce qui s'est passé sur ce cas précis, et tu auras exactement ce que tu auras décidé de garder six mois plus tôt.
La scène se répète. Un client réclame, un auditeur demande, un patron veut savoir. Quelqu'un ouvre le tableau de bord de l'agent et montre 96 % de réussite. Et la réponse en face est toujours la même : « très bien, mais moi je te parle du dossier de Marta, celui du 14 mars ». Les 96 % ne répondent pas à cette question. Ils n'y répondent pas parce qu'ils mesurent autre chose.
Ce décalage a un nom et ce n'est pas une panne technique : on a acheté une couche en croyant en acheter trois.
Performance et preuve auditable ne sont pas la même question
La performance est une question agrégée et au présent : le système tourne-t-il bien, combien coûte-t-il, où se dégrade-t-il ? On y répond avec une courbe et ça sert à exploiter. La preuve auditable est une question singulière et au passé : pourquoi cette décision-là est sortie ainsi, pour ce client, ce jour-là ? On y répond avec un dossier et ça sert à se défendre.
Deux questions différentes, deux réponses différentes, et le piège est que la première se voit et la seconde non. Un tableau de bord se montre en démo ; un dossier reconstruit n'apparaît que quand quelqu'un en a besoin, c'est-à-dire toujours trop tard pour le monter.
Les trois couches que le marché vend comme une seule
Quand un fournisseur dit « nos agents sont auditables », il peut parler de trois choses qui ne se remplacent pas. Sépare-les avant de comparer les offres, parce que presque tous en couvrent une bien et les deux autres en passant.
| Couche | Quand elle agit | À quelle question elle répond | Ce qu’elle ne fait PAS |
|---|---|---|---|
| Garde-fous | Avant : préventif | Peut-il faire ça ? | Ne laisse aucune trace du pourquoi de ce qui a eu lieu |
| Observabilité | Pendant : opérationnel, agrégé | Ça tourne bien aujourd'hui ? | Ne reconstruit pas un cas précis |
| Piste d’audit | Après : probatoire, singulier | Pourquoi CE cas est sorti ainsi ? | N'empêche rien ; elle prouve, c'est tout |
La première couche est une décision de conception : ce que l'agent peut toucher et jusqu'où il va seul. Elle se règle avant de connecter quoi que ce soit — c'est développé dans quelles permissions donner à un agent IA et dans les niveaux d'autonomie d'un agent — et sa valeur, c'est que certaines choses n'arrivent jamais. Mais un garde-fou qui marche est invisible : il ne produit pas de preuve, il produit une absence d'incident.
La deuxième est celle que presque tout le monde achète en premier, et à raison : sans elle, un agent casse en silence. C'est surveiller l'IA en production, et ça répond en agrégé. Son unité est la métrique, pas le dossier.
La troisième est celle que presque personne n'a montée, parce qu'elle exige des décisions inconfortables : quoi garder, sous quel identifiant et combien de temps. C'est la traçabilité des décisions d'IA, et c'est la seule qui te serve le jour de la réclamation. Les trois sont nécessaires. Mais une seule répond à la question qu'on va te poser.
Pourquoi ton log ne vaut pas preuve
Arrive l'objection raisonnable : « nous, on log tout ». C'est presque toujours vrai, et presque toujours inutile. Un journal d'exploitation et une trace probatoire se distinguent par deux propriétés qui ne sont pas techniques mais de gouvernance.
- Intégrité. Une trace probatoire doit pouvoir démontrer qu'on n'y a pas touché depuis son écriture. Si n'importe qui ayant accès au système peut la modifier ou l'effacer sans laisser de marque, elle ne prouve rien : c'est une version des faits écrite par une des parties.
- Une durée de conservation choisie. Un log tourne. Il s'efface au bout de trente jours parce que ça prend de la place, ou parce que personne n'y a pensé. Une trace a une durée choisie exprès, écrite, alignée sur le temps réel que mettent les réclamations à apparaître dans ton métier — rarement trente jours.
Et voici le choc à anticiper : conserver plus longtemps pousse à l'inverse de minimiser les données personnelles. Ça ne se règle pas avec un outil, ça se règle avec une politique écrite par type de système : ce qu'on garde entier, ce qu'on garde pseudonymisé, ce qu'on garde seulement en référence. Cette décision appartient au métier et au juridique, pas au fournisseur. Si personne ne l'a prise, la politique par défaut est celle de qui a configuré la rotation par défaut.
Ce que la norme européenne exige déjà, et à qui
Soyons précis, parce qu'on exagère dans les deux sens. Le règlement européen sur l'intelligence artificielle n'oblige pas à journaliser tout ce que fait n'importe quelle IA. Il l'oblige pour les systèmes classés à haut risque, et là l'exigence passe par deux endroits.
L'article 12 impose que le système permette techniquement l'enregistrement automatique des événements tout au long de son cycle de vie, avec des capacités de journalisation qui servent à identifier les situations à risque et à surveiller son fonctionnement. Ça pèse sur celui qui fabrique.
La partie que presque personne n'a lue, c'est l'article 26, paragraphe 6, et celle-là pèse sur celui qui déploie : le déployeur d'un système à haut risque doit conserver les journaux générés automatiquement, dans la mesure où ils sont sous son contrôle, pendant une durée adaptée à la finalité prévue et d'au moins six mois, sauf disposition contraire du droit de l'Union ou national, en particulier en matière de protection des données personnelles. Source : Article 26: Obligations of Deployers of High-Risk AI Systems, EU Artificial Intelligence Act, consulté le 11 septembre 2026.
Deux nuances pour ne pas dépasser. La première : la date d'application de ces obligations a bougé, et la même source place l'entrée en vigueur de l'article 26 au 2 décembre 2027 pour les systèmes à haut risque de l'annexe III et au 2 août 2028 pour ceux de l'annexe I, selon l'article 113. La seconde, plus importante : si ton agent n'est pas à haut risque, rien de tout ça ne t'oblige. Mais la formule « dans la mesure où ils sont sous son contrôle » indique déjà où va le standard du secteur, et un gros client ou un assureur peut te le demander bien avant un régulateur.
Les trois choses à exiger par écrit avant de signer
Pas besoin d'une annexe de vingt pages. Trois questions répondues par écrit te disent si tu as une preuve ou un tableau de bord.
- Quels champs sont enregistrés, exactement. Pas « nous journalisons l'activité ». La liste : identifiant de dossier de bout en bout, version du modèle et des instructions qui s'appliquaient, ce qui a été récupéré, quels outils ont été appelés, quelle politique a été appliquée et qui a relu. Si la réponse est un adjectif au lieu d'une liste, il n'y a pas de trace.
- Où ils vivent et combien de temps. Dans quel système, sous le contrôle de qui, avec quelle durée de conservation et ce qui se passe à l'échéance. Une durée par défaut que personne n'a choisie est une décision prise par omission, et tu la découvriras le jour où tu en auras besoin.
- Qui peut les exporter et dans quel format. C'est la plus oubliée et la plus chère : le jour où tu changes de fournisseur, tu emportes la trace ou elle reste sur sa plateforme ? Si ce n'est pas écrit, pars du principe qu'elle reste.
Aucune des trois n'est une question technique difficile. Ce sont des questions auxquelles un fournisseur sérieux répond dans un mail, et celles qui ne trouvent pas de réponse dans un mail t'en disent plus que celles qui en trouvent.
Quoi faire cette semaine
Choisis un agent déjà au travail et fais le test des six mois sur un cas réel. Pas besoin de plus : en une demi-heure tu sauras dans laquelle des trois couches tu es et laquelle te manque. Si tu ne peux pas reconstruire le cas, la liste ci-dessus est ta conversation en attente avec celui qui te l'a vendu.
Et si en le reconstruisant tu découvres que tu ne sais même pas quelle version des instructions tournait ce jour-là, c'est un problème antérieur et il se règle avant : les instructions d'un agent IA ne sont pas un prompt, c'est un document avec un propriétaire, une version et une date. Sans cette version notée, la trace la plus complète du monde te laisse à mi-chemin.
Le résumé honnête : la performance te dit si le système en vaut la peine ; la preuve auditable te dit si tu peux le soutenir devant quelqu'un. La première s'achète facilement. La seconde se décide avant et ne se monte pas à rebours.