Die These in einem Satz: KI-Halluzinationen in Produktion zu reduzieren ist ein Ingenieursproblem, von allen halb gelöst und von fast allen mit Rauch erklärt. Es gibt drei oder vier Dinge, die wirklich die Nadel bewegen, und ein Dutzend, die verkauft werden, als täten sie es, und es nicht tun. Das ist das Scorecard: Technik für Technik, mit Urteil. Wenn dir jemand eine der „Rauch"-Techniken als die Lösung verkauft, weißt du schon, wohin das führt.
Zuerst: Das ist nicht das „Warum" der Halluzination. Dass das Modell das Plausible statt das Wahre vorhersagt und darauf trainiert ist, nie zu schweigen, erzählen wir in warum KI halluziniert und was du von deinem Anbieter verlangen sollst. Hier setzen wir die Diagnose voraus und gehen zu dem, was in Produktion wirklich zählt: welche Hebel man zieht und welche man ignoriert.
Wie man dieses Scorecard der Techniken zur Reduzierung von KI-Halluzinationen in Produktion liest
Jede Technik trägt ein Dreifach-Urteil: bewegt die Nadel (nutze sie und du siehst weniger Halluzination auf deinen Daten), kommt darauf an (hilft in einem konkreten Fall, nicht generell) und Rauch (als Lösung verkauft und ändert fast nichts). Das Kriterium ist nicht theoretisch: Es ist, was passiert, wenn du es vor echte Daten und echtes Volumen stellst, nicht vor eine Demo mit fünf ausgewählten Fragen.
Was Rauch ist (oder fast)
Wir beginnen mit dem, was am meisten verkauft wird und am wenigsten bringt, denn dort geht das meiste Geld und die meiste Zeit verloren.
- „Sag ihm im Prompt, er soll nichts erfinden." Rauch. „Erfinde nichts, wenn du es nicht weißt, sag es" hilft am Rand ein wenig, aber du verlangst Ehrlichkeit von einem System ohne Wahrheitsschalter im Inneren. Wenn es etwas von dir nicht weiß, gibt der Prompt ihm nicht den Fakt; er bittet es nur zu schweigen, und es gehorcht zeitweise. Nützlich als Gurt, nutzlos als Bremse.
- Die Temperatur senken. Rauch dafür. Die Temperatur steuert, wie sehr das Modell beim Wählen des nächsten Wortes zockt, nicht ob der Fakt korrekt ist. Bei Temperatur 0 halluziniert es konsistenter, nicht weniger. Sie reduziert Variabilität, nicht Falschheit.
- Das neueste, größte Modell. Kommt darauf an, tendenziell Rauch. Ein besseres Modell halluziniert bei Allgemeinwissen etwas weniger, aber über DEINE Daten —die nicht im Training waren— hat es weiterhin keine Ahnung, so mächtig es auch ist. Das Modell zu wechseln löst nicht das Problem, das am meisten schmerzt: das deiner Information.
- Fine-Tuning „um ihm deine Daten beizubringen". Rauch für Fakten, nützlich für Stil. Ein Modell zu finetunen bringt ihm bei, wie du zu klingen und Formaten zu folgen, nicht frische, zitierbare Fakten zu merken. Ändert sich dein Datum jede Woche, hinkt Fine-Tuning immer hinterher. Für Fakten willst du Grounding, nicht Fine-Tuning —wir erklären es unten—.
Was wirklich die Nadel bewegt
Das sind die Ingenieurstücke, die die Halluzination dort senken, wo es zählt. Keins ist ein Trick; alle sind von dem, der dein System baut, einforderbar.
- Grounding / RAG: mit deinen Dokumenten vor Augen antworten, nicht aus dem Gedächtnis. Bewegt die Nadel, und es ist Hebel Nummer eins. Das System sucht zuerst in deiner Dokumentation die relevanten Fragmente und legt sie dem Modell vor, damit es darüber antwortet. Der Fakt lebt außerhalb des Modells, in einer Basis, die du kontrollierst. Es beseitigt die Halluzination nicht, aber es schneidet sie dort, wo es am meisten schmerzt: bei deinen Daten. Wie man diese Schicht baut —welche Dokumente, wie sie zerlegt, wie sie abgerufen werden— erklären wir in wie man einen Agenten mit deiner eigenen Information trainiert.
- Überprüfbare Zitate: jede Aussage mit ihrer Quelle. Bewegt die Nadel, weil es die Halluzination von unsichtbar in auditierbar verwandelt. Ein seriöses System zeigt das exakte Fragment, das es für jede Antwort nutzte. Stützt das Zitat nicht, was es sagt, erwischst du es. Und die harte Regel: Kann das System nicht zitieren, woher eine Antwort kommt, wird diese Antwort nicht ausgerollt.
- Enthaltung: es „ich weiß es nicht" sagen lassen. Bewegt die Nadel, und fast niemand implementiert es. Das System so zu konfigurieren, dass es unter einer Konfidenzschwelle oder ohne stützende Quelle „das habe ich nicht" antwortet statt zu improvisieren, beseitigt die teuerste Fehlerklasse: die selbstsichere falsche Antwort. Unbequem, weil es die Antwortquote senkt; korrekt, weil es die Trefferquote hebt.
- Mensch in der Schleife dort, wo der Fehler kostet (nicht überall). Bewegt die Nadel, ohne die Ersparnis zu töten. Eine Person jede Antwort prüfen zu lassen tötet den ROI; auf keine zu setzen ist Roulette. Das richtige Design setzt die menschliche Bremse nur dort, wo der Fehler teuer oder irreversibel ist —ein Betrag, eine rechtliche Verpflichtung, eine Kundennachricht— und lässt durch, was billig rückgängig zu machen ist.
- Evals: die Halluzinationsrate messen. Bewegt die Nadel indirekt, und ist nicht verhandelbar. Messen senkt die Halluzination nicht von selbst, aber ohne eine Zahl, die du jede Woche siehst, weißt du nicht, ob deine anderen Hebel wirken oder wann das System degradiert ist. Was nicht gemessen wird, degradiert im Stillen.
Das Scorecard auf einen Blick
| Technik | Bewegt die Nadel? | Warum |
|---|---|---|
| Prompt „erfinde nichts" | Rauch | Verlangt Ehrlichkeit von einem System ohne Fakt |
| Temperatur senken | Rauch | Steuert Variabilität, nicht Wahrheit |
| Neueres/größeres Modell | Kommt darauf an | Verbessert Allgemeinwissen, nicht deine Daten |
| Fine-Tuning für Fakten | Rauch | Lehrt Stil, nicht frische zitierbare Fakten |
| Grounding / RAG | Ja | Der Fakt lebt außerhalb des Modells, in deiner Basis |
| Überprüfbare Zitate | Ja | Macht Halluzination auditierbar |
| Enthaltung („weiß ich nicht") | Ja | Tötet die selbstsichere falsche Antwort |
| Mensch wo der Fehler kostet | Ja | Bremse nur beim Teuren oder Irreversiblen |
| Evals / die Rate messen | Ja | Ohne Zahl keine Ahnung, ob der Rest wirkt |
Die Produktions-Checkliste
Wenn du KI in Produktion bringst und nicht willst, dass Halluzination deinen Kunden erreicht, ist das das Mindestmaß: Grounding über deine Dokumente, Zitate auf jeder Antwort, Enthaltung konfiguriert, ein Mensch an den teuren Punkten und eine Eval, die die Rate jede Woche misst. Alles andere —Prompts, Temperatur, das Modell des Monats— ist Feinschliff, kein Fundament. Und Achtung: eine halluzinierende KI ist nur ein Symptom eines größeren Problems, schmutzige Daten und ein Projekt ohne Eigentümer, das wir in warum KI-Automatisierungsprojekte scheitern erzählen.
Diese fünf Stücke zu bauen und zu tragen ist genau das, was wir in Enterprise-KI-Infrastruktur machen: Wir übergeben dir kein Modell, das verspricht, nicht zu lügen, wir lassen dir ein System, das weiß, wann es schweigen muss, und zeigt, woher jede Antwort kommt. Der Unterschied zwischen beidem ist der zwischen einer Demo und einem System in Produktion.