Un agent trie des factures fournisseurs depuis huit mois. Un lundi, quelqu’un remarque qu’il impute mal un type de dépense, et la réaction est immédiate : « on l’éteint ». Dix secondes suffisent. Puis arrive la question que personne ne s’était posée : qui fait ça à la main ? La personne qui s’en chargeait a changé de poste en mars, la procédure, c’était « ce qu’elle savait », et le volume d’une semaine ne tient pas dans un après-midi.
La thèse en une ligne : éteindre un agent est un bouton ; le débrancher sans arrêter le processus est un plan, et presque personne n’en conçoit un parce qu’un plan de sortie ressemble à du pessimisme. Au bout de six mois, le processus ne sait plus fonctionner sans l’agent, et « suspendre » revient alors à « arrêter l’activité ».
Comment débrancher un agent IA : le plan de sortie que personne ne conçoit
Le lancement est préparé avec soin : périmètre, droits, tests. La sortie est renvoyée à « on verra ». Un vrai plan de sortie tient en trois pièces, qui doivent toutes exister avant l’incident :
- L’étape manuelle, documentée et répétée. Pas « quelqu’un s’en occupera » : qui, avec quels accès, selon quelles consignes et pour quel volume.
- Le seuil qui déclenche le débranchement. Une condition écrite à l’avance, pas une réunion improvisée pendant que l’agent continue de répondre.
- Qui l’exécute. Une personne nommée, autorisée à agir sans demander l’accord de trois autres.
Pourquoi le processus ne sait plus fonctionner sans l’agent
C’est un mécanisme, pas une négligence. Tant que l’agent fait la tâche, l’équipe cesse de la faire ; en cessant de la faire, elle cesse d’entretenir le jugement : les exceptions, les clients hors norme, le raccourci que seule une personne connaissait. Ce savoir ne disparaît pas d’un coup, il s’évapore. Ce qui survit se trouve dans les instructions de l’agent, qui ne sont pas un manuel pour des humains.
Trois signes que vous en êtes là : personne dans l’équipe n’a exécuté l’étape manuelle depuis des mois, les accès nécessaires ont été retirés quand ils ne « servaient plus », et personne ne sait quel volume une personne absorberait. Si l’un des trois est vrai, éteindre l’agent n’est plus une option réversible, même si le bouton fonctionne.
Ce que l’étape manuelle doit contenir par écrit
- Les étapes et leurs exceptions, rédigées par ceux qui les connaissent, et non reconstituées à partir des instructions de l’agent.
- Les accès actifs. Comptes, droits et outils du processus manuel, vérifiés et non supposés.
- La capacité réelle. Quel volume tient à la main et ce qui passe en priorité quand tout ne passe pas ; cette décision se prend maintenant, pas à dix-huit heures.
- La répétition. Un exercice périodique où une personne exécute l’étape manuelle sur des cas réels. Une procédure jamais exécutée n’est qu’une hypothèse.
Le premier palier de la sortie n’est presque jamais « éteint » : c’est de baisser l’autonomie vers « l’agent propose, une personne envoie ». Cela suppose d’avoir défini une échelle de niveaux d’autonomie d’un agent avant d’en avoir besoin.
Quand débrancher : un seuil écrit, pas une réunion
Le seuil transforme un débat en exécution. Il n’a pas besoin d’être chiffré ; il doit être sans ambiguïté et avoir un responsable :
| Signal | Débranchement | Qui décide |
|---|---|---|
| Une erreur qui touche l’argent, un délai ou un client précis | Partiel : on retire l’outil en cause ou on baisse l’autonomie | Responsable du processus |
| Dérive durable de l’indicateur de qualité qui définit la réussite | Intermédiaire : passage en « propose, une personne envoie » jusqu’à revue | Responsable du processus, avec revue hebdomadaire |
| Une action hors périmètre ou un accès qu’il n’aurait jamais dû avoir | Total et immédiat, sans réunion | Celui qui détient l’interrupteur |
| Doute raisonnable que son usage crée un risque juridique | Total jusqu’à clarification, et information des personnes concernées | Direction, avec appui juridique |
La détection peut être automatisée, par exemple avec un agent superviseur qui contrôle celui qui travaille, mais ce qu’on débranche et jusqu’où relève d’une décision humaine, prise avant que le cas se présente.
Que dit l’AI Act sur la suspension d’un agent ?
L’article 26, paragraphe 5, du règlement (UE) 2024/1689 impose à l’utilisateur d’un système à haut risque qui a des raisons de penser que son usage peut présenter un risque d’en informer sans délai le fournisseur et l’autorité de surveillance du marché, et de suspendre l’utilisation du système (article 26 sur le portail officiel de la Commission européenne).
Deux nuances. D’abord, l’obligation vise les systèmes à haut risque ; beaucoup d’agents d’entreprise n’en sont pas, et pour eux c’est une bonne pratique, pas une obligation. Ensuite, la règle exige de pouvoir suspendre, pas de savoir le faire sans rien casser : suspendre sans plan de repli, c’est arrêter le processus et laisser le problème à celui qui devra travailler à la main cet après-midi-là.
Débrancher un agent, est-ce la même chose que le retirer ?
Non, et les confondre provoque des erreurs. Débrancher est temporaire et réversible : l’agent, ses identifiants et son historique restent en place, et une personne reprend le travail pendant la correction. Retirer est définitif : on révoque les droits, on archive le journal et on décide du sort de ce que l’agent avait en cours. Le débranchement doit prendre quelques minutes ; le retrait peut prendre son temps. Tout ce qui encadre les deux, des droits au journal, se trouve dans gouvernance et contrôle de l’automatisation par l’IA.
Liste de sortie avant la mise en production d’un agent
| Question | Si la réponse est « non » |
|---|---|
| L’étape manuelle existe-t-elle par écrit, avec ses exceptions ? | Le processus ne survivra pas à l’agent |
| Quelqu’un l’a-t-il exécutée sur des cas réels ces derniers mois ? | C’est une hypothèse, pas un plan |
| Les accès nécessaires sont-ils toujours actifs ? | La sortie est fermée même si le bouton fonctionne |
| Y a-t-il un seuil écrit et une personne autorisée à agir ? | Ce sera décidé en réunion, pendant que l’agent répond encore |
| Savez-vous quel volume une personne absorbe et ce qui passe en priorité ? | L’éteindre, c’est perdre ce qui ne tient pas |
Qui répond, avec quels niveaux de gravité et depuis quel runbook : c’est expliqué dans qui répond quand une automatisation tombe. Et si vous préférez ne pas monter ni assurer cette fonction vous-même, c’est ce que nous couvrons avec la gestion des incidents d’agents IA.
La phrase à retenir : un agent qu’on ne peut pas éteindre est un risque, mais un agent qu’on éteint alors que personne ne sait faire son travail est le même risque, avec un bouton.