Dienstagnachmittag: Der Support-Agent sagt einem Kunden, er könne eine individuell angefertigte Bestellung auch nach Ablauf der Frist zurückgeben. Kann er nicht, diese Regel gibt es nicht. Jemand aus dem Team entdeckt es beim Lesen der Unterhaltung, und die Reaktion ist fast immer dieselbe: Logs öffnen und herausfinden, warum er das gesagt hat. Das ist der natürlichste Schritt und der, der den Schaden am längsten hinauszieht.
Die These in einer Zeile: Wenn ein KI-Agent bei einem Kunden danebenliegt, lautet die richtige Reihenfolge: eindämmen, Ausmaß eingrenzen, informieren und erst danach diagnostizieren. Fast alle beginnen am Ende, und während sie diagnostizieren, antwortet der Agent weiter.
Was tun, wenn ein KI-Agent danebenliegt: erst eindämmen, dann diagnostizieren
Diagnostizieren dauert Stunden, Eindämmen dauert Minuten. Während du die Ursache suchst, läuft der Agent weiter produktiv, mit denselben Anweisungen, denselben Daten und denselben Werkzeugen, die den Fehler erzeugt haben. Jede neue Unterhaltung ist eine neue Chance, ihn zu wiederholen. Eindämmen heißt nicht reparieren: Du verkleinerst, was der Agent tun kann, bis du weißt, was passiert ist. Und es muss umkehrbar sein, denn du machst es unter Zeitdruck und ohne Diagnose.
Die Optionen, von der mildesten zur drastischsten:
- Autonomie herunterstufen. Auf „schlägt vor, ein Mensch sendet“ umstellen. Der Service läuft weiter, neuer Schaden entsteht nicht. Das geht nur, wenn du vorher eine Skala von Autonomiestufen eines Agenten festgelegt hast.
- Das Werkzeug entziehen, das den Schaden verursacht hat. Hat er eine Erstattung zugesagt, verliert er die Berechtigung dazu; hat er ins CRM geschrieben, wird er auf Nur-Lesen gesetzt. Genau dafür lohnt es sich, die Berechtigungen eines KI-Agenten durchdacht zu haben.
- Die betroffenen Themen an einen Menschen übergeben, mit einer festen, ehrlichen Nachricht: „Ein Teammitglied übernimmt ab hier.“
- Ganz abschalten. Letztes Mittel, aber legitim. Dafür braucht es einen benannten Notschalter und jemanden, der ihn drücken darf, ohne drei Personen um Erlaubnis zu fragen.
Die Regel: Drück den kleinsten Knopf, der den Schaden stoppt. Auch ein abgeschalteter Agent ist ein Vorfall, nur ein sichtbarer.
Wie viele andere Kunden dieselbe falsche Antwort bekommen haben
Das ist die Frage, auf die fast niemand vorbereitet ist, und sie entscheidet über die tatsächliche Schwere. Ein Einzelfehler und ein Muster werden unterschiedlich behandelt, und aus der Unterhaltung eines einzelnen Kunden lässt sich nicht erkennen, was vorliegt. Das Ausmaß einzugrenzen heißt, drei Fragen mit Daten zu beantworten:
- Wie viele waren betroffen: Unterhaltungen, in denen der Agent dasselbe oder etwas Gleichwertiges gesagt hat, vom ersten möglichen Zeitpunkt bis zur Eindämmung.
- Wie viele haben darauf gehandelt: wer die Rückgabe beantragt, eine Frist akzeptiert oder aufgrund der Antwort entschieden hat.
- Wie viele haben eine Zusage mit Geld oder Frist: nur diese brauchen heute eine individuelle Antwort.
All das geht nur, wenn Unterhaltungen gespeichert und durchsuchbar sind. Die Aufbewahrung der Logs wird meist nach Speicherkosten oder Datenschutz entschieden, ohne an diesen Moment zu denken; entscheide sie in dem Wissen, dass sie dir erlaubt, die Betroffenen zu zählen, wie in wie lange das Log deines Agenten aufbewahrt werden sollte erklärt. Ein guter Ausgangspunkt: Das zu prüfende Zeitfenster beginnt bei der letzten Änderung am Agenten (Anweisung, Datenquelle oder Modell), nicht bei der ersten Beschwerde.
Informieren: wen, wann und mit welcher Nachricht
Informieren kommt vor der Diagnose, denn der betroffene Kunde erfährt es ohnehin, und besser von dir. Du musst die Ursache nicht kennen, um das Wichtige zu sagen: was passiert ist, was gilt und was nicht, und was du jetzt tust. Drei Empfänger, drei Zeitpunkte:
| Wer | Wann | Was du sagst |
|---|---|---|
| Wer im Unternehmen entscheidet (Geschäftsleitung oder Serviceverantwortliche) | Sobald ein Fehler mit Auswirkung bestätigt ist | Was der Agent gesagt hat, seit wann, zu wie vielen, und was du eingedämmt hast |
| Kunden mit einer Zusage über Geld oder Frist | So schnell wie möglich, einzeln, sobald das Ausmaß bekannt ist | Dass die Auskunft falsch war, was richtig ist und wie es gelöst wird |
| Alle übrigen Betroffenen | Nur wenn sie auf die Antwort hin gehandelt haben oder das Thema heikel ist | Eine kurze Korrektur, ohne Drama |
Zwei Dinge, die nicht funktionieren: auf die Grundursache warten, bevor man dem Kunden schreibt, und ihm eine Mitteilung über „ein technisches Problem“ schicken. Sag ihm, was der Agent gesagt hat und was stimmt. Ob man einhält, was der Agent irrtümlich versprochen hat, ist eine Geschäftsentscheidung, die bewusst und von der richtigen Person getroffen wird; nicht passieren darf, dass der Agent sie per Standard trifft.
Muss man informieren, wenn nur ein Kunde betroffen war?
Ja: diesen Kunden und die entscheidende Person im Unternehmen. Anders ist nur der Rest: Bei einem nach der Eingrenzung bestätigten Einzelfall genügt eine individuelle Korrektur. Aber „Einzelfall“ ist ein Ergebnis, das du mit der obigen Suche belegst, keine Annahme, mit der du beginnst.
Erst dann: diagnostizieren, ohne das Problem wieder zu öffnen
Ist der Schaden gestoppt und sind die Betroffenen identifiziert, läuft die Diagnose nicht mehr gegen die Uhr. Such die Ursache in dieser Reihenfolge, vom günstigsten zum aufwendigsten: die Anweisung (war sie mehrdeutig oder widersprüchlich?), die Informationsquelle (ein veraltetes Dokument, eine geänderte Seite?), das Werkzeug (hat es einen falschen Wert geliefert?) und zuletzt das Modell. Fast nie ist es das Modell, und doch ist es die Hypothese, zu der alle zuerst springen.
Ein Risiko bleibt: am selben Tag reparieren und wieder einschalten. Die Korrektur ist eine weitere Änderung und muss getestet werden, bevor sie die Produktion berührt, mit der gescheiterten Unterhaltung als erstem Test. Danach wird die Autonomie stufenweise zurückgegeben, nicht auf einmal.
Die ersten zwei Stunden im Überblick
| Zeitfenster | Was du tust | Was du nicht tust |
|---|---|---|
| Minuten 0-15 | Eindämmen: Autonomie senken, Werkzeug entziehen oder an einen Menschen übergeben | Die Ursache suchen |
| Minuten 15-60 | Eingrenzen: Betroffene, Handelnde und Geldzusagen zählen | Von einem Einzelfall ausgehen |
| Minuten 60-90 | Informieren: erst die Entscheidungsperson, dann Kunden mit Zusage | Auf die Grundursache warten, bevor du kommunizierst |
| Minuten 90-120 | Mit gestopptem Schaden die Diagnose beginnen | Ohne Test der Korrektur wieder einschalten |
Was bereitstehen muss, bevor es passiert
Zwei Stunden sind nur möglich, wenn die Bausteine vorher existierten: ein benannter Notschalter und jemand, der ihn nutzen darf, ein durchsuchbares Gesprächsprotokoll, eine Liste, wen man informiert, und ein Nachrichtenentwurf. Wenn du zum ersten Mal um sechs Uhr abends darüber nachdenkst, werden es mehr als zwei Stunden. Bereitschaft, Schweregrade und das einseitige Runbook, die das ordnen, stehen in wer antwortet, wenn eine Automatisierung ausfällt; und wenn du es nicht selbst aufbauen und tragen willst, ist es genau das, was wir mit dem Incident-Management für KI-Agenten übernehmen.
Der Satz zum Mitnehmen: Dass ein Agent sich irrt, ist normal; dass er sich weiter irrt, während du herausfindest, warum, nicht.