Das Video dauert neunzig Sekunden: du tippst einen Satz, der Agent „arbeitet allein" und heraus kommt ein makelloses Ergebnis. Null Menschen. Null Reibung. Du hast es diese Woche auf LinkedIn gesehen, wahrscheinlich mehr als einmal. Es ist eine schöne Demo. Und genau das ist es: eine Demo. Der Agent, der sich selbst ausliefert, existiert nicht in Produktion. Der, der wirklich funktioniert — der abrechnet, der einen gewöhnlichen Dienstag übersteht — hat einen Menschen dahinter, platziert genau dort, wo es zählt. Es ist kein Defekt, den das nächste Modell behebt. Es ist das Design.
Der autonome KI-Agent ist ein Mythos: warum die 100 % nicht in Produktion auftauchen
Volle Autonomie wird als Schwelle verkauft, die wir „nächstes Jahr" überschreiten. Das Problem: die Mathematik der Agenten funktioniert so nicht. Ein Agent verkettet Schritte, und Fehler multiplizieren sich unterwegs. Wenn jeder Schritt zu 95 % stimmt — optimistisch für ein aktuelles LLM —, endet ein Prozess mit 20 Schritten nur zu 36 % sauber. Selbst bei 99 % pro Schritt scheitert einer von fünf 20-Schritt-Versuchen. Kein Bug: reine Arithmetik. Verkette genug Entscheidungen ohne Kontrollpunkt, und die Chance, dass alles perfekt läuft, tendiert gegen null.
Es gibt einen verschärfenden Faktor, 2025 dokumentiert im Paper „The Illusion of Diminishing Returns" (MPI-INF und TU Kaiserslautern): Self-Conditioning. Wenn das Kontextfenster des Modells seine eigenen früheren Fehler enthält, wird es messbar wahrscheinlicher, weitere zu produzieren — es liest die vorherige Ausgabe, deutet das etablierte Muster als korrekt und baut darauf auf. Der Agent irrt nicht nur: er irrt mit umso mehr Selbstsicherheit, je weiter er sich vom letzten Menschen entfernt, der ihn geprüft hat.
Was du wirklich kaufst, wenn man dir „volle Autonomie" verkauft
Das Wort „autonom" leistet auf einer Landingpage viel Arbeit und auf einem Server sehr wenig. In der Demo heißt autonom „ohne Mensch". In Produktion heißt autonom fast immer eines dieser drei Dinge, und keines ist die Landingpage-Version:
- Autonom in einer schmalen Spur. Er macht EINE abgegrenzte Sache, mit vorhersehbaren Eingaben, und alles außerhalb der Spur stoppt oder eskaliert. Das ist das richtige Design. Aber es ist nicht „er macht deine Arbeit allein".
- Autonom bis zum ersten Sonderfall. Er funktioniert in der Demo, weil die Demo keine Sonderfälle hat. Der echte Dienstag hat sie, und dort wird aus „ohne Mensch" ein „ohne jemanden, der merkt, dass es kaputt ist".
- Autonom mit unsichtbar gemachtem Menschen. Es gibt sehr wohl eine Person, die prüft, korrigiert und entstört — sie taucht nur im Verkaufsvideo nicht auf. Der Mensch ist nicht verschwunden: man hat ihn versteckt, damit die Demo aufgeht.
Das ist weder neu noch exotisch. Der MIT-Bericht „The GenAI Divide" (August 2025) über 300 öffentliche Deployments fand: 95 % der generativen KI-Piloten bewegen die GuV nie. Gartner wiederum sagt voraus, dass über 40 % der agentischen Projekte vor 2027 gestrichen werden. Der wiederkehrende Grund ist nicht „das Modell ist nicht schlau genug". Es ist, ein System versprochen zu haben, das sich selbst steuert, und es ohne die Person losgelassen zu haben, die es steuert.
Wo der Mensch in einem Agenten steht, der wirklich funktioniert
Human-in-the-loop ist nicht „ein Praktikant, der zur Sicherheit den Bildschirm bewacht". Es ist eine Architekturentscheidung: du setzt die Person an die drei oder vier Punkte, an denen ihr Urteil mehr wert ist als die Geschwindigkeit des Modells, und lässt den Agenten überall sonst allein laufen. Der Unterschied zwischen Spielzeug und System ist genau, wo du diese Punkte setzt.
| Punkt der Schleife | Was der Mensch tut | Warum die KI es nicht allein kann |
|---|---|---|
| Eingabe / Auslöser | Definiert die Spur und die Ausnahmen | Das Modell weiß nicht, was außerhalb des Rahmens liegt, wenn es ihm niemand sagt |
| Entscheidung mit hoher Wirkung | Genehmigt vor der Ausführung (Zahlung, Versand, Vertrag) | Die Kosten eines Fehlers überwiegen die Kosten des Wartens auf eine Freigabe bei Weitem |
| Sonderfall / geringe Konfidenz | Erhält die Eskalation und entscheidet | Ein Agent, der beim Sonderfall „improvisiert", ist der, der im Vorfall endet |
| Regelmäßige Prüfung | Auditiert Grenzfälle und korrigiert den Kurs | Ohne Prüfung driftet der Agent und niemand merkt es, bis der Kunde reklamiert |
Achte darauf, was NICHT in der Tabelle steht: der Mensch berührt die 80 % repetitives Volumen nicht. Dort fliegt der Agent solo, und das soll er auch. Der Fehler des Vollautonomie-Mythos ist nicht, Autonomie zu wollen — Autonomie beim Repetitiven ist genau der Wert. Der Fehler ist, sie auf die 20 % auszudehnen, die Urteil, Risiko oder Kontext verlangen, den das Modell nicht hat. Diese 20 % sind der Ort, an dem die Person nicht überflüssig ist: dort hört das System auf, eine Demo zu sein. Es ist dieselbe Logik, die wir anwenden, wenn wir einen KI-Agenten richtig bauen, wo Human-in-the-loop kein Extra ist: es ist eine Architekturanforderung.
Warum die Branche das Gegenteil verkauft (und warum du besser misstrauisch bist)
„Ohne Menschen" zu verkaufen ist aus zwei Gründen bequem. Erstens kommerziell: „ersetze dein Team" ist eine eingängigere Schlagzeile als „verstärke dein Team und lass das Urteil dort, wo es hingehört". Zweitens wegen der Kosten: wenn du volle Autonomie versprichst, musst du weder das Schleifendesign noch Observability noch den laufenden Betrieb berechnen — genau den teuren, schwierigen Teil, der einen Agenten tatsächlich länger als ein Quartal am Leben hält. Dasselbe alte Theater mit neuer Kulisse: man berechnet das Gefühl von Magie, nicht das System, das hält.
Und Achtung, das ist KEIN Argument gegen Automatisierung. Im Gegenteil: automatisiere alles, was sich gut automatisieren lässt. Der Punkt ist ein anderer — zu wissen, was man dem Agenten überlässt und was man an einen Menschen eskaliert — und genau das ist die Disziplin, die eine ernsthafte Umsetzung von einem Zombie-Piloten trennt. Wir führen es aus in wann man einen Prozess NICHT mit KI automatisiert: Autonomie ist kein Alles-oder-nichts-Schalter, sie ist ein Regler, den man Prozess für Prozess kalibriert.
Ist volle Autonomie also eine Lüge?
Keine Lüge: sie ist verfrüht und am falschen Ort angewandt. Für kurze, abgegrenzte Aufgaben mit geringem Risiko läuft ein Agent heute schon zuverlässig allein — und das sind die 80 %, die du automatisieren solltest, ohne jemanden um Erlaubnis zu fragen. Für lange Prozesse mit Entscheidungen von hoher Wirkung oder häufigen Sonderfällen ist die volle Autonomie von 2026 Marketing: die Zuverlässigkeitskurve reicht noch nicht so weit. Der Agent, der funktioniert, ist nicht der, der den Menschen feuert; es ist der, der ihn an die vier richtigen Punkte setzt und aus den anderen zwanzig entfernt. Weniger Spektakel, mehr System.
Wenn du einen Agenten willst, der einen echten Dienstag übersteht — und kein neunzigsekündiges Video —, dann liefern wir genau das: Prozesse mit dem Menschen in der Schleife, wo es zählt, und dem Agenten, der allein läuft, wo nicht. Das heißt Automatisierung von Operations, und wir lassen es messend zurück, nicht applaudierend.