Quelle autonomie donner à un agent IA n'est pas une question de oui ou non
La conversation sur l'autonomie se pose presque toujours comme un interrupteur : soit l'agent fait les choses tout seul, soit il ne les fait pas. Avec ce cadrage il n'y a que deux fins possibles, et les deux sont mauvaises. La première : le laisser en mode suggestion pour toujours, là où personne ne risque rien — la personne continue de faire le travail en entier, avec un avis de plus posé sur la table, et le système n'économise pas une seule heure réelle. La seconde : le lâcher complètement le premier jour parce que la démo est bien passée, et découvrir la panne quand elle est déjà dans le mail d'un client.
L'autonomie n'est pas un interrupteur : c'est un escalier. Et comme tout escalier, il se monte une marche à la fois, et seulement quand la précédente tient le poids. Ce qui suit : les cinq marches, les trois critères qui autorisent une montée, et la courte liste des actions qui restent à mi-escalier par construction. Si ce que tu es en train de décider, c'est encore ce que l'agent a le droit de toucher, cette décision-là vient avant et elle est réglée dans quelles permissions donner à un agent IA : les permissions définissent le périmètre, l'autonomie définit la vitesse. Ce n'est pas la même chose, et ça se décide séparément.
Les cinq marches, une par une
Les marches s'ordonnent avec deux questions : qui exécute et qui vérifie. Pas avec l'intelligence du modèle.
Marche 1 — Observe dans l'ombre
L'agent reçoit les cas réels, fait tout son travail, et sa sortie n'arrive à personne : elle reste dans le registre. L'opération ignore qu'il existe. C'est la seule marche où se tromper est gratuit, et c'est donc le seul endroit où tu peux te permettre de découvrir ce que le système ne sait pas faire.
Ce qui se mesure ici, ce n'est pas « s'il a raison », c'est contre quoi on le compare. Dans l'ombre, il faut garder la décision humaine sur le même cas pour pouvoir mettre les deux côte à côte. Si tu ne gardes que la sortie de l'agent, à la fin du mois tu auras mille réponses et aucun moyen de savoir si elles étaient bonnes. C'est la marche qu'on saute le plus — elle ne produit rien de visible, donc elle a l'air d'un temps perdu — et celle qui coûte le plus cher à sauter : sans elle, la première mesure réelle du système, c'est un client qui la fait.
Marche 2 — Suggère
Sa sortie arrive à la personne sous forme de proposition. La personne continue de faire le travail ; ce que l'agent lui enlève, c'est la page blanche. Le gain est réel mais modeste, et c'est exactement le point : c'est une marche d'apprentissage, pas de rendement. Sa valeur, c'est qu'ici apparaît la première donnée qui compte vraiment — le taux de correction — et elle apparaît gratuitement, parce que la personne allait relire de toute façon.
L'erreur typique de la marche 2, c'est de s'y installer. Un système qui suggère depuis huit mois n'est pas prudent : c'est un système que personne n'ose évaluer. Si les chiffres permettent de monter et qu'on ne monte pas, ce qui manque n'est pas la preuve, c'est quelqu'un qui signe.
Marche 3 — Exécute avec confirmation
L'agent laisse l'action prête et complète — le mail écrit, l'écriture équilibrée, le ticket classé et routé — et une personne appuie sur le bouton. C'est le motif que la littérature appelle human in the loop, et la différence avec la marche 2, c'est qui porte le travail : en 2 la personne exécute, en 3 elle vérifie. Ce basculement, c'est là qu'apparaît le premier gain qui se voit sur les heures.
Attention : la marche 3 se dégrade toute seule. Quand la confirmation devient un clic sur vingt éléments identiques, ce n'est plus de la supervision, c'est une formalité. Si ton taux de rejet tombe à zéro, ne fête rien : regarde si c'est le système qui s'est amélioré ou le relecteur qui a arrêté de lire. La forme de la supervision et sa mécanique sont développées dans l'humain dans la boucle d'une automatisation avec IA ; ce qui compte, ce n'est pas qu'il y ait quelqu'un qui regarde, c'est qu'il ait le contexte, le temps et l'autorité réelle de dire non.
Marche 4 — Exécute et prévient
L'agent agit et laisse l'avis. La personne n'autorise plus : elle surveille. C'est ce qu'on appelle human on the loop. Cette marche n'a de sens que s'il existe une fenêtre de retour arrière réelle : un délai pendant lequel l'action se défait sans avoir rien coûté à personne. Un brouillon qui part dans dix minutes et qu'on peut annuler a une fenêtre. Une facture émise, non.
Ce qu'il faut concevoir ici, ce n'est pas l'avis — ça, c'est la partie facile —, c'est le défaire. Si le plan de retour arrière c'est « on appelle le client et on s'excuse », tu n'as pas une marche 4 : tu as une marche 5 déguisée, avec la responsabilité répartie entre personne.
Marche 5 — Exécute et rend des comptes
L'agent agit et personne ne regarde cas par cas. Ce qu'on relit, c'est l'agrégat : un échantillon hebdomadaire, les métriques habituelles et les exceptions que le système lève lui-même. Ce n'est pas l'absence de supervision, c'est de la supervision statistique — et ça ne marche que si le système sait déclarer quand il n'est pas sûr. Un agent qui n'a aucun moyen de dire « celui-là, je ne le sens pas » ne peut pas être en marche 5, parce que ses erreurs arrivent avec le même visage que ses réussites.
Très peu de tâches arrivent là, et celles qui y arrivent partagent un profil : volume élevé, erreur peu chère, correction rapide. Classer, router, étiqueter, extraire les champs d'un document pour qu'un autre système les valide. Quand le volume à relire ne tient plus dans une personne, la supervision devient une fonction avec son propre processus, et c'est déjà de la supervision humaine de l'IA à l'échelle.
Les trois critères pour monter d'une marche (« ça se passe bien » n'en est pas un)
Une marche se monte avec des preuves, et les preuves sont trois chiffres qui doivent être favorables en même temps. Deux sur trois n'autorise rien.
1. Volume de cas vus
Avec vingt cas tu ne sais rien : tu sais que l'agent fonctionne sur les vingt cas qui lui sont tombés dessus. Ce qu'il faut, ce n'est pas un nombre magique, c'est d'avoir vu les cas bizarres : le client qui écrit en deux langues, la facture sans numéro de commande, le mois de clôture, le fournisseur qui répond par un PDF scanné à l'envers. Une règle pratique : si tu ne peux pas citer trois cas bizarres que l'agent a déjà bien traités, tu mesures encore le facile.
2. Taux de correction humaine — et sa forme
Le pourcentage de fois où la personne a changé ce que l'agent proposait. Mais le chiffre seul, sans sa forme, trompe. 10 % de corrections réparties au hasard, c'est du bruit tolérable. 10 % concentrés toujours sur le même type de cas, c'est un trou connu que la moyenne te cache, et monter d'une marche avec ce trou ouvert, c'est automatiser précisément la panne. Avant de regarder le pourcentage, regroupe les corrections par motif ; si un motif en prend plus de la moitié, ce motif est le travail qui reste, pas la montée.
3. Réversibilité de l'action
Trois questions, dans cet ordre : est-ce que ça se défait ?, combien coûte de le défaire ?, combien de temps tu as avant qu'il soit trop tard ? Un brouillon non envoyé est réversible et gratuit. Un mail parti chez un client est réversible à moitié et cher : ça se répare avec un autre mail et une conversation désagréable. Un virement exécuté n'est pas réversible — c'est un second virement en sens inverse, avec un appel à la banque au milieu et une probabilité raisonnable qu'il ne revienne pas.
Ce critère ne se compense pas avec les deux autres. Si l'action ne se défait pas, peu importe que le taux de correction soit de 0,1 % sur cent mille cas : la montée n'est pas autorisée. La précision réduit la fréquence de l'erreur ; elle ne réduit pas son coût.
Ce qui reste en marche 3 pour toujours
Il y a des actions qui ne montent pas, même avec les trois critères impeccables. Ce n'est pas de la méfiance envers le modèle : c'est que le coût du centile 1, ce n'est pas le modèle qui le paie. Trois familles :
- L'argent qui sort. Paiements, virements, remboursements, création d'un fournisseur avec un nouveau compte bancaire. La fraude au changement d'IBAN existe précisément parce que cette étape a été automatisée trop tôt chez beaucoup de monde.
- Les personnes. Recrutement, salaire, discipline, évaluation, toute décision qui touche à la relation de travail de quelqu'un. Là, en plus, le cadre réglementaire serre de son côté.
- Les engagements envers des tiers. Contrats, offres fermes, prix arrêtés, délais engagés et toute communication avec une administration. Ce qui sort par la porte avec ton nom dessus, c'est une personne qui le signe.
Cette liste de trois familles est la nôtre, pas celle du régulateur. Mais le régulateur pointe dans la même direction : l'autorité espagnole de protection des données retient le principe des quatre yeux —double vérification par des personnes différentes— et le pose pour les processus automatiques à fort impact sur les droits et libertés des personnes. Ce critère est plus large et plus abstrait que nos trois familles ; ce qu'on fait ici, c'est le faire atterrir sur les actions concrètes où, dans une entreprise normale, l'erreur ne se défait pas d'un clic.
Ce que la norme t'oblige à pouvoir faire, et ce qu'elle ne te dit pas
Le règlement européen sur l'intelligence artificielle en fait une obligation pour les systèmes à haut risque, et il s'applique en France directement. C'est son article 14 : le système doit être conçu de manière à ce que des personnes physiques puissent le contrôler effectivement pendant son utilisation, en comprenant ses capacités et ses limites, en détectant les anomalies et les comportements inattendus, et en intervenant ou en l'arrêtant. Traduit dans l'escalier : à n'importe quelle marche, la 5 comprise, il faut quelqu'un qui puisse comprendre, intervenir et arrêter. Un bouton d'arrêt que personne n'a jamais testé ne satisfait pas l'article 14 ; il satisfait le compte rendu de réunion.
Et il y a déjà un régulateur européen qui a mis tout ça par écrit pour les agents. En février 2026, l'autorité espagnole de protection des données a publié des orientations sur l'intelligence artificielle agentique du point de vue de la protection des données. Elle ne t'oblige à rien en France — ce n'est pas ton autorité nationale —, mais c'est à ce jour le texte européen le plus clair sur le sujet, et il se lit d'autant mieux que le RGPD qu'il applique est le même des deux côtés des Pyrénées. Parmi les mesures qu'il propose : gouvernance solide du système, participation active du délégué à la protection des données, évaluation continue de la performance de l'agent, compartimentage de la mémoire, traçabilité du cycle de vie de la donnée, supervision humaine significative, environnements d'isolement technique et contrôle strict des mises à jour. Source : Orientaciones sobre Inteligencia Artificial agéntica, AEPD, version 1.2, février 2026.
Et maintenant ce qu'aucun des deux ne fait : te donner l'escalier. La norme te dit ce que tu dois être capable de faire et sur quelles opérations elle exige deux paires d'yeux. À quelle marche tu places chaque tâche, c'est ta décision, et c'est bien pour ça qu'il faut l'écrire quelque part au lieu de la laisser dans la tête de celui qui a monté le système. Les cinq marches de ce guide sont une formulation éditoriale maison, pas une classification officielle : utilise-les, change-les ou invente les tiennes, mais qu'elles existent par écrit.
Les trois erreurs qui se répètent au moment de monter
Monter au calendrier
« Ça fait un mois qu'on est en suggestion, il est temps de monter. » Le temps n'est la preuve de rien : un mois creux, c'est quarante cas, un mois chargé, quatre cents. Ce qui autorise la montée, c'est le volume de cas vus, pas les semaines écoulées.
Confondre « ça n'a pas cassé » et « ça marche bien »
L'absence de plaintes n'est pas une métrique. En marche 2 et en marche 3, l'erreur de l'agent est absorbée par la personne en silence : un système peut donc être médiocre pendant des mois sans que personne ne le dise. Si tu ne mesures pas la correction, tu n'as pas de preuve — tu as une absence de bruit.
Monter l'agent en entier
C'est l'erreur la plus chère et la plus courante. Un agent fait cinq choses et deux seulement ont les chiffres pour monter ; on monte l'agent, et les trois autres voyagent gratis. La montée s'autorise par action, s'enregistre par action et se révoque par action. L'idée d'un agent qui « est autonome, maintenant » est exactement celle que démonte le mythe de l'agent 100 % autonome : en production il n'y a pas d'interrupteur, il y a une répartition.
Comment ça s'écrit dans un tableau d'une page
Tout ce guide tient dans un tableau qu'on revoit une fois par mois. Une ligne par action, pas par agent :
| Action | Marche aujourd'hui | Ce qui manque pour monter | Qui autorise |
|---|---|---|---|
| Classer et router le courrier entrant | 4 — exécute et prévient | Échantillon hebdomadaire 3 mois sans dérive par type | Responsable des opérations |
| Rédiger la réponse au client | 3 — exécute avec confirmation | Correction < 8 % et dispersée par motif | Responsable du support |
| Émettre la facture | 3 — plafond permanent | Ne monte pas : argent qui sort | — |
| Extraire les champs d'un bon de livraison | 5 — rend des comptes | Déjà en haut ; revoir les exceptions | Responsable de l'administration |
- Une ligne par action. Si une ligne dit « l'agent du support », elle est mal écrite : découpe-la.
- La marche d'aujourd'hui, avec une date. Sans date, tu ne sauras pas si elle est là depuis trois semaines ou depuis sept mois.
- Ce qui manque pour monter, en chiffre. « Quand on sera à l'aise » n'est pas un critère ; « correction sous les 8 % et dispersée », si.
- Un nom qui autorise. Une personne, pas un comité. Si personne ne signe, rien ne monte et le système reste en marche 2 pour toujours.
- Marque les lignes à plafond permanent. Argent, personnes et engagements envers des tiers portent « ne monte pas » écrit noir sur blanc, pour que dans un an personne n'ait à le rediscuter.
Nous montons des agents qui démarrent dans l'ombre et qui montent avec ce tableau sous les yeux — c'est ce que font les employés IA que nous mettons au travail, sur l'infrastructure qui permet de les arrêter et de les auditer le jour où il le faudra, dans la logique générale de créer un agent IA qui tient en production. On ne vend pas d'autonomie. On facture le fait que chaque marche se monte avec un chiffre et avec un nom derrière.