Ein Agent sortiert seit acht Monaten Lieferantenrechnungen. An einem Montag fällt auf, dass er eine Kostenart falsch kontiert, und die Reaktion kommt sofort: „Schalten wir ihn ab.“ Das dauert zehn Sekunden. Dann kommt die Frage, die keiner gestellt hatte: Wer macht das jetzt von Hand? Die Kollegin, die es früher gemacht hat, wechselte im März die Stelle, das Verfahren war „das, was sie wusste“, und das Volumen einer Woche passt nicht in einen Nachmittag.
Die These in einem Satz: Einen Agenten auszuschalten ist ein Knopf; ihn abzuschalten, ohne den Prozess zu stoppen, ist ein Plan, und fast niemand baut ihn, weil ein Ausstiegsplan nach Pessimismus klingt. Nach sechs Monaten kann der Prozess ohne den Agenten nicht mehr laufen, und dann bedeuten „aussetzen“ und „den Betrieb anhalten“ dasselbe.
KI-Agent abschalten: der Ausstiegsplan, den niemand baut
Der Start wird sorgfältig geplant: Umfang, Berechtigungen, Tests. Der Ausstieg bleibt bei „sehen wir dann“. Ein echter Ausstiegsplan besteht aus drei Teilen, und alle drei müssen vor dem Vorfall existieren:
- Der manuelle Schritt, dokumentiert und geübt. Nicht „irgendwer macht das“: wer, mit welchem Zugang, nach welcher Anleitung und bei welchem Volumen.
- Die Schwelle, die das Abschalten auslöst. Eine vorab festgelegte Bedingung, keine Ad-hoc-Besprechung, während der Agent weiter antwortet.
- Wer es ausführt. Eine namentlich benannte Person, die handeln darf, ohne drei andere um Erlaubnis zu fragen.
Warum der Prozess ohne den Agenten nicht mehr funktioniert
Das ist ein Mechanismus, kein Versäumnis. Solange der Agent die Aufgabe erledigt, hört das Team auf, sie zu erledigen; wer aufhört, pflegt auch das Urteilsvermögen nicht mehr: die Ausnahmen, die Kunden außerhalb der Norm, die Abkürzung, die nur eine Person kannte. Dieses Wissen geht nicht auf einmal verloren, es verdunstet. Was bleibt, steckt in der Anweisung des Agenten, und die ist kein Handbuch für Menschen.
Drei Anzeichen, dass Sie schon an diesem Punkt sind: Niemand im Team hat den manuellen Schritt seit Monaten ausgeführt, die dafür nötigen Zugänge wurden entfernt, als sie „nicht mehr gebraucht“ wurden, und niemand weiß, wie viel Volumen eine Person schaffen würde. Trifft eines davon zu, ist das Abschalten keine umkehrbare Option mehr, auch wenn der Knopf funktioniert.
Was im manuellen Schritt schriftlich stehen muss
- Die Schritte und ihre Ausnahmen, aufgeschrieben von denen, die sie kennen, nicht rekonstruiert aus der Anweisung des Agenten.
- Funktionierende Zugänge. Konten, Berechtigungen und Werkzeuge des manuellen Prozesses, geprüft statt angenommen.
- Die reale Kapazität. Wie viel Volumen von Hand machbar ist und was Vorrang hat, wenn nicht alles geht; diese Entscheidung fällt jetzt, nicht um sechs Uhr abends.
- Die Übung. Ein regelmäßiger Probelauf, bei dem eine Person den manuellen Schritt an echten Fällen ausführt. Ein Verfahren, das nie ausgeführt wurde, ist eine Hypothese.
Die erste Stufe des Ausstiegs ist fast nie „aus“, sondern weniger Autonomie: „Der Agent schlägt vor, eine Person sendet.“ Das geht nur, wenn Sie eine Skala von Autonomiestufen eines KI-Agenten definiert haben, bevor Sie sie brauchen.
Wann abgeschaltet wird: eine schriftliche Schwelle statt einer Besprechung
Eine Schwelle macht aus einer Debatte eine Handlung. Sie muss nicht zahlenbasiert sein, aber eindeutig und mit einem Verantwortlichen versehen:
| Signal | Abschaltung | Wer entscheidet |
|---|---|---|
| Ein Fehler mit Folgen für Geld, Frist oder einen bestimmten Kunden | Teilweise: das verursachende Werkzeug entziehen oder die Autonomie senken | Prozessverantwortliche |
| Anhaltende Abweichung bei der Qualitätskennzahl, die den Erfolg definiert | Mittelstufe: auf „schlägt vor, Person sendet“ zurückstellen, bis geprüft ist | Prozessverantwortliche, mit wöchentlicher Prüfung |
| Eine Aktion außerhalb des Auftrags oder ein Zugriff, den er nie hätte haben dürfen | Vollständig und sofort, ohne Besprechung | Wer den Schalter hat |
| Begründeter Zweifel, dass der Einsatz ein rechtliches Risiko schafft | Vollständig bis zur Klärung, plus Information der zuständigen Stellen | Geschäftsleitung, mit Rechtsberatung |
Die Erkennung kann automatisiert laufen, etwa mit einem Supervisor-Agenten, der den arbeitenden Agenten prüft, aber was abgeschaltet wird und wie weit, legt ein Mensch fest, bevor es passiert.
Was sagt der AI Act zum Aussetzen eines Agenten?
Artikel 26 Absatz 5 der Verordnung (EU) 2024/1689 verpflichtet den Betreiber eines Hochrisiko-Systems, der Grund zu der Annahme hat, dass dessen Nutzung ein Risiko darstellen kann, unverzüglich Anbieter und Marktüberwachungsbehörde zu informieren und die Nutzung des Systems auszusetzen (Artikel 26 auf dem offiziellen AI-Act-Portal der Europäischen Kommission).
Zwei Einschränkungen. Erstens gilt die Pflicht für Hochrisiko-Systeme; viele Unternehmensagenten gehören nicht dazu, für sie ist es gute Praxis, keine Vorschrift. Zweitens verlangt die Norm, aussetzen zu können, nicht, wie man das ohne Schaden tut: Aussetzen ohne Rückfallplan heißt, den Prozess anzuhalten und das Problem demjenigen zu überlassen, der an diesem Nachmittag von Hand arbeiten muss.
Ist Abschalten dasselbe wie Außerbetriebnahme?
Nein, und die Verwechslung verursacht Fehler. Abschalten ist vorübergehend und umkehrbar: Agent, Zugangsdaten und Verlauf bleiben bestehen, und eine Person übernimmt die Arbeit, während der Fehler behoben wird. Außerbetriebnahme ist endgültig: Berechtigungen werden entzogen, das Protokoll archiviert, und es wird entschieden, was mit allem passiert, was der Agent noch offen hatte. Das Abschalten muss in Minuten gehen, die Außerbetriebnahme darf sich Zeit nehmen. Alles, was beides regelt, von den Berechtigungen bis zum Protokoll, steht in Governance und Kontrolle der KI-Automatisierung.
Ausstiegs-Checkliste vor dem Produktivstart eines Agenten
| Frage | Wenn die Antwort „nein“ lautet |
|---|---|
| Gibt es den manuellen Schritt schriftlich, mit Ausnahmen? | Der Prozess überlebt den Agenten nicht |
| Hat ihn in den letzten Monaten jemand an echten Fällen ausgeführt? | Es ist eine Hypothese, kein Plan |
| Sind die nötigen Zugänge noch aktiv? | Der Ausstieg ist versperrt, auch wenn der Knopf funktioniert |
| Gibt es eine schriftliche Schwelle und eine handlungsberechtigte Person? | Es wird in einer Besprechung entschieden, während der Agent weiter antwortet |
| Wissen Sie, wie viel Volumen eine Person schafft und was Vorrang hat? | Abschalten heißt, alles zu verlieren, was nicht passt |
Wer antwortet, mit welchen Schweregraden und nach welchem Runbook, steht in wer antwortet, wenn eine Automatisierung ausfällt. Und wenn Sie diese Funktion lieber nicht selbst aufbauen und betreiben wollen: Genau das decken wir mit dem Incident-Management für KI-Agenten ab.
Der Satz zum Mitnehmen: Ein Agent, den man nicht abschalten kann, ist ein Risiko, aber einer, den man abschaltet, während niemand seine Arbeit kann, ist dasselbe Risiko mit einem Knopf.