Un mardi après-midi, l’agent du service client dit à un client qu’il peut retourner une commande personnalisée hors délai. Il ne le peut pas : cette règle n’existe pas. Quelqu’un de l’équipe le découvre en relisant la conversation, et la réaction est presque universelle : ouvrir les logs et chercher pourquoi il a dit ça. C’est le réflexe le plus naturel, et celui qui prolonge le plus le dégât.
La thèse en une ligne : quand un agent IA se trompe avec un client, le bon ordre est contenir, mesurer l’ampleur, prévenir, et seulement ensuite diagnostiquer. Presque tout le monde commence par la fin, et pendant qu’on diagnostique, l’agent continue de répondre.
Que faire quand un agent IA se trompe : contenir avant de diagnostiquer
Diagnostiquer prend des heures ; contenir prend des minutes. Pendant que tu cherches la cause, l’agent reste en production avec les mêmes instructions, les mêmes données et les mêmes outils que ceux qui ont produit l’erreur : chaque nouvelle conversation est une occasion de la répéter. Contenir n’est pas réparer : c’est réduire ce que l’agent peut faire jusqu’à comprendre ce qui s’est passé. Et ça doit être réversible, car tu le fais dans l’urgence et sans diagnostic.
Les options, de la moins à la plus radicale :
- Baisser son autonomie. Le passer en mode « propose, une personne envoie ». Le service continue et le nouveau dégât s’arrête. C’est possible seulement si tu as défini à l’avance une échelle de niveaux d’autonomie d’un agent.
- Lui retirer l’outil qui a causé le dégât. S’il a promis un remboursement, on lui retire le droit de rembourser ; s’il a écrit dans le CRM, on le met en lecture seule. C’est l’intérêt concret d’avoir bien pensé les permissions d’un agent IA.
- Passer les sujets concernés à une personne, avec un message fixe et honnête : « Un membre de l’équipe prend le relais. »
- L’éteindre complètement. Dernier recours, mais légitime. Il faut un interrupteur identifié et quelqu’un autorisé à l’actionner sans demander l’accord de trois personnes.
La règle : appuie sur le plus petit bouton qui arrête le dégât. Un agent éteint est aussi un incident, simplement visible.
Combien d’autres clients ont reçu la même mauvaise réponse
C’est la question que presque personne n’a préparée, et celle qui décide de la gravité réelle. Une erreur isolée et un schéma récurrent ne se traitent pas pareil, et depuis la conversation d’un seul client il est impossible de savoir lequel on a. Mesurer l’ampleur, c’est répondre à trois questions avec des données :
- Combien ont été exposés : les conversations où l’agent a dit la même chose ou quelque chose d’équivalent, depuis la première fois où c’était possible jusqu’au moment du confinement.
- Combien ont agi en conséquence : ceux qui ont demandé le retour, accepté un délai ou pris une décision sur la base de cette réponse.
- Combien ont un engagement financier ou de délai : les seuls qui exigent une réponse individuelle aujourd’hui.
Rien de tout cela n’est possible si les conversations ne sont pas conservées et consultables. La durée de rétention des logs se décide souvent sur le coût de stockage ou la vie privée, sans penser à ce moment ; mieux vaut la décider en sachant que c’est elle qui permet de compter les personnes touchées, comme l’explique combien de temps conserver le log de ton agent. Un bon point de départ : la fenêtre à examiner commence au dernier changement de l’agent (instruction, source de données ou modèle), pas à la première plainte.
Prévenir : qui, quand et avec quel message
Prévenir passe avant le diagnostic, parce que le client touché l’apprendra de toute façon, et mieux vaut qu’il l’apprenne par toi. Pas besoin de connaître la cause pour dire l’essentiel : ce qui s’est passé, ce qui est valable ou non, et ce que tu vas faire. Trois destinataires, trois moments :
| Qui | Quand | Ce que tu lui dis |
|---|---|---|
| Qui décide dans l’entreprise (direction ou responsable du service) | Dès que l’erreur avec impact est confirmée | Ce que l’agent a dit, depuis quand, à combien de personnes, et ce que tu as contenu |
| Les clients avec un engagement financier ou de délai | Au plus vite, individuellement, une fois l’ampleur connue | Que l’information était fausse, quelle est la bonne et comment on règle le problème |
| Les autres personnes exposées | Seulement si elles ont agi sur la réponse ou si le sujet est sensible | Une correction brève, sans dramatisation |
Deux choses qui ne marchent pas : attendre la cause racine pour écrire au client, et lui envoyer un communiqué sur « un incident technique ». Dis-lui ce que l’agent a dit et ce qui est exact. Honorer ou non ce que l’agent a promis par erreur est une décision commerciale, prise en conscience par la bonne personne ; ce qui ne doit pas arriver, c’est que l’agent la prenne par défaut.
Faut-il prévenir si un seul client est concerné ?
Oui : ce client, et celui qui décide dans l’entreprise. Ce qui change, c’est le reste : pour un cas confirmé comme isolé après avoir mesuré l’ampleur, une correction individuelle suffit. Mais « isolé » est une conclusion que l’on démontre avec la recherche ci-dessus, pas une hypothèse de départ.
Seulement ensuite : diagnostiquer sans rouvrir le problème
Une fois le dégât stoppé et les personnes touchées identifiées, le diagnostic ne court plus contre la montre. Cherche la cause dans cet ordre, du moins au plus coûteux : l’instruction (était-elle ambiguë ou contradictoire ?), la source d’information (un document périmé, une page modifiée ?), l’outil (a-t-il renvoyé une valeur erronée ?) et, en dernier, le modèle. Ce n’est presque jamais le modèle, et c’est pourtant l’hypothèse vers laquelle on saute en premier.
Reste un risque : corriger et réactiver le jour même. La correction est un changement de plus et doit être testée avant de toucher la production, avec la conversation qui a échoué comme premier test. Ensuite, on rend l’autonomie par paliers, pas d’un seul coup.
Les deux premières heures en résumé
| Créneau | Ce que tu fais | Ce que tu ne fais pas |
|---|---|---|
| Minutes 0-15 | Contenir : baisser l’autonomie, retirer l’outil ou passer à une personne | Chercher la cause |
| Minutes 15-60 | Mesurer : compter exposés, touchés et engagements financiers | Supposer un cas isolé |
| Minutes 60-90 | Prévenir : le décideur d’abord, puis les clients avec engagement | Attendre la cause racine pour communiquer |
| Minutes 90-120 | Commencer à diagnostiquer, dégât stoppé | Réactiver sans tester la correction |
Ce qui doit être prêt avant que ça arrive
Deux heures ne sont possibles que si les pièces existaient avant : un interrupteur identifié et quelqu’un autorisé à l’utiliser, un journal de conversations consultable, une liste de personnes à prévenir et un brouillon de message. Si tu y penses pour la première fois à dix-huit heures, ce sera plus de deux heures. Le tour de garde, les niveaux de gravité et le runbook d’une page qui organisent tout cela sont dans qui répond quand une automatisation tombe, et si tu préfères ne pas le monter ni le tenir toi-même, c’est ce que nous faisons avec la gestion des incidents d’agents IA.
La phrase à retenir : qu’un agent se trompe est normal ; qu’il continue de se tromper pendant que tu cherches pourquoi, non.