Was „Mensch in der Schleife" ist (und was nicht)
Der Mensch in der Schleife ist der Punkt, an dem eine Person validiert, korrigiert oder freigibt, was ein automatisiertes System tut, bevor die Aktion Folgen hat. Es ist nicht „jemand, der den ganzen Tag den Bildschirm bewacht" oder „ein Praktikant, der 100 % der Agenten-Arbeit nachprüft". Es ist Eingreifen an den Punkten, die zählen, und bewusste Abwesenheit überall sonst.
Die übliche Verwechslung ist, es als Schalter zu behandeln: Entweder ist das System autonom oder hinter jeder Entscheidung steht ein Mensch. In der Produktion läuft das nicht so. Der Mensch in der Schleife ist ein Regler, den du nach Entscheidungstyp einstellst — maximale Kontrolle, wo ein Fehler teuer ist, null Reibung, wo das Volumen regiert und ein Fehler billig zu beheben ist. Dieser Leitfaden zeigt, wohin dieser Regler gehört. Für das Gesamtbild, was zu automatisieren ist, starte mit Automatisieren mit KI.
Die drei Stellen, an denen die Freigabe sitzen kann
Bevor du entscheidest „wie viel Mensch", solltest du wissen, dass es drei verschiedene Positionen gibt. Fast jedes Projekt verwechselt die erste mit der einzigen:
| Position | Was der Mensch tut | Wann sie einzusetzen ist |
|---|---|---|
| In-the-loop (in der Schleife) | Gibt jede Aktion frei, bevor sie läuft. Die Maschine schlägt vor, der Mensch entscheidet. | Hohe Wirkung, niedrige Frequenz: Geld senden, unterschreiben, einem wütenden Kunden antworten, Daten löschen. |
| On-the-loop (über der Schleife) | Die Maschine handelt allein; die Person beaufsichtigt und kann eingreifen oder zurücksetzen. | Mittleres Volumen mit behebbarem Fehler: Tickets klassifizieren, Entwürfe schreiben, einen Lead eine Stufe weiterschieben. |
| Out-of-the-loop (außerhalb der Schleife) | Die Maschine handelt allein; der Mensch schaut nur hinterher auf Metriken und Grenzfälle. | Hohes Volumen, billiger Fehler, klare Regel: kennzeichnen, Daten extrahieren, sortieren, häufige Fragen beantworten. |
Der teure Fehler ist, aus Angst das ganze System „in-the-loop" zu setzen. Wenn eine Person jede der 4.000 täglichen Aktionen freigeben muss, hast du nichts automatisiert: Du hast einen Engpass mit Gehalt hinzugefügt. Das Netz wird nicht überall gleich eng gespannt.
Wie man entscheidet, was freigegeben wird und was durchläuft
Die Entscheidung ist nicht philosophisch, sie ist eine Matrix mit zwei Achsen: wie viel ein Fehler kostet und wie oft die Aktion vorkommt.
- Hohe Kosten + niedrige Frequenz → in-the-loop. Eine nach der anderen freizugeben ist billig, weil es wenige sind, und ein Fehler ist teuer. Beispiel: Erstattungen über 500 €.
- Hohe Kosten + hohe Frequenz → umbauen, nicht freigeben. Wenn etwas Teures oft vorkommt, skaliert der menschliche Engpass nicht. Man grenzt es mit harten Regeln ein (Obergrenzen, Whitelists) und der Mensch sieht nur die Ausnahmen. Beispiel: Lieferantenzahlungen mit automatischer Obergrenze und Prüfung nur oberhalb der Schwelle.
- Niedrige Kosten + hohe Frequenz → out-of-the-loop. Laufen lassen und messen. Hier einen Menschen einzusetzen ist Geldverbrennen. Beispiel: 2.000 E-Mails pro Tag klassifizieren.
- Niedrige Kosten + niedrige Frequenz → ohne Drama automatisieren. Es verdient nicht einmal aktive Aufsicht.
Fast kein Prozess fällt in ein einziges Feld. Ein echter Support-Flow mischt alle vier: Der Agent beantwortet häufige Fragen allein (out), schreibt Entwürfe für mittlere Fälle, die ein Mensch prüft (on), und eskaliert Erstattungen und schwere Beschwerden an eine Person (in). Das Design liegt darin, jede Aktion ihrem Feld zuzuordnen, nicht eines fürs ganze System zu wählen.
Wie sich das Netz mit der Zeit lichtet
Der Mensch in der Schleife ist keine feste Aufnahme: Es ist ein Netz, das eng startet und sich öffnet, sobald das System beweist, dass es richtig liegt. Das Muster, das funktioniert:
- Woche 1-2: Der Mensch prüft 100 %. Nicht um des Freigebens willen, sondern um zu labeln: „das war richtig", „das nicht". Diese Labels sind die Daten, die sagen, wo das System zuverlässig ist und wo nicht.
- Woche 3-6: Kategorien mit hoher, konstanter Treffsicherheit freigeben. Der Mensch hört auf zu prüfen, was er schon als funktionierend kennt, und richtet die Aufmerksamkeit auf das Zweifelhafte.
- Ab Monat 2: Prüfung per Stichprobe und Ausnahme. Das System läuft allein beim Erprobten; der Mensch sieht einen zufälligen Prozentsatz (um Drift zu erkennen) und alle Fälle, die das System selbst als seltsam markiert (niedrige Konfidenz, außerhalb des Musters).
Das Netz zu lichten setzt eine Bedingung voraus: Das System muss jede Entscheidung mit Kontext und Ergebnis protokollieren. Diese Governance — eingegrenzte Rechte, Audit-Trail und Notbremse — ist dieselbe, die du beim Integrieren der KI in deine Systeme aufsetzt. Ohne Logs weißt du nicht, wo es richtig liegt, also kannst du nichts mit Urteil freigeben und prüfst für immer alles — das andere Scheitern.
Die zwei Fehler, die die Ersparnis killen
Es gibt zwei Arten, das zu ruinieren, und sie sind gegensätzlich.
Mensch bei allem. Aus Angst oder zum Auditieren gibt jemand jede Aktion frei. Das System „hat Aufsicht" auf dem Papier, aber die Ersparnis ist null: Du hast Handarbeit gegen die Arbeit getauscht, Arbeit freizugeben. Warnsignal: Die aufsichtführende Person ist überlastet und gibt im Autopilot frei — was heißt, nicht zu beaufsichtigen, mit zusätzlichen Schritten.
Mensch bei nichts. Man lässt das ganze System am ersten Tag los, „weil die Demo gut lief". Es funktioniert bis zum ersten seltsamen Fall — und es gibt immer einen seltsamen Fall — den niemand sieht, bis ein Kunde sich beschwert oder es auf der Rechnung auftaucht. Volle Autonomie ohne Netz ist keine Reife: Es ist, noch nicht gemessen zu haben. Es ist dieselbe Fata Morgana, die wir beim Aufbau interner Prozesse mit Agenten auseinandernehmen.
Die Mitte ist nicht „ein bisschen Mensch bei allem". Es ist viel Mensch, wo der Fehler kostet, und null Mensch, wo nicht, mit einer Grenze, die sich nach dem verschiebt, was die Logs sagen. Das trennt eine Automatisierung, die einen echten Dienstag übersteht, von einer Demo mit Glück — und genau das bauen wir in der Betriebsautomatisierung: das System, das allein läuft, wo es kann, und die Person, die entscheidet, wo es zählt.