Kurz gesagt
- Das Modell füllt Lücken mit statistisch wahrscheinlichem Text, nicht mit geprüften Fakten. Die Antwort sieht richtig aus, ist es aber nicht
- In der Marketing-Analytics ist die Gefahr erfundene Zahlen: „der Blended ROAS lag bei 3,4x“, obwohl nie etwas abgefragt wurde
- Die Ursache ist fehlendes Grounding: keine Live-Datenverbindung, also rät das Modell aus seinen Trainingsdaten
- Die Lösung sind Retrieval und Tool-Nutzung, ein Semantic Layer oder MCP-Server, der das Modell echte Zahlen abrufen lässt
Was eine AI Hallucination ist
Eine AI Hallucination liegt vor, wenn ein Sprachmodell eine Ausgabe erzeugt, die flüssig, selbstbewusst und falsch ist. Das Modell lügt nicht und ist nicht kaputt. Es tut genau das, wofür es trainiert wurde: die statistisch wahrscheinlichsten nächsten Wörter vorhersagen. Fehlt ihm die echte Information, füllt es die Lücke mit Text, der zum Muster einer korrekten Antwort passt. Das Ergebnis liest sich autoritativ und ist oft falsch.
Bei einem Chatbot, der Prosa schreibt, ist eine Halluzination lästig. Bei einer KI, die Fragen zu deinen Marketing-Daten beantwortet, ist sie ein geschäftliches Risiko: Das Modell kann mit voller Überzeugung „dein Meta ROAS letzte Woche lag bei 3,4x“ behaupten, ohne je etwas abgefragt zu haben.
Warum es in der Analytics passiert
Halluzination im Datenkontext lässt sich fast immer auf eine Sache zurückführen: Das Modell hat keine verankerte Verbindung zu deinen tatsächlichen Zahlen. Auf die Frage „wie hoch war unser Blended CAC dieses Quartal?“ kann ein Modell ohne Datenzugriff nichts nachschlagen und produziert deshalb eine plausibel aussehende Zahl aus dem Nichts. Zwei Fehlerbilder verstärken das:
- Keine Live-Daten. Ohne Warehouse- oder Attributions-Verbindung rät das Modell aus Trainingsdaten, die nichts mit deinem Business zu tun haben.
- Mehrdeutige Definitionen. Selbst mit Datenzugriff improvisiert das Modell eine Definition, wenn „ROAS“ oder „Neukunde“ nicht konsistent festgelegt ist. Das ist eine subtilere Halluzination der Bedeutung statt der Zahl.
Wie du es verhinderst
Die Lösung ist Grounding: Zwing das Modell, echte Daten abzurufen und vereinbarte Definitionen zu nutzen, statt sie zu erfinden.
- Tool-Nutzung / Retrieval. Verbinde das Modell über einen MCP-Server mit deinen Daten, damit Antworten aus Live-Abfragen kommen, nicht aus dem Gedächtnis.
- Ein Semantic Layer. Definiere Metriken und Dimensionen einmal, damit „ROAS“ eine benannte, geregelte Berechnung ist, auf die sich das Modell bezieht, statt zu raten.
- Read-only-Zugriff mit Scope. Gib dem Modell die Möglichkeit, genau die Zahlen zu lesen, die es braucht, und nicht mehr, damit es sicher verankert bleibt.
- Budget-relevante Zahlen gegenprüfen. Jede Zahl, die Budget bewegt, verdient einen zweiten Blick, verankert oder nicht.
FAQ zu AI Hallucination
Was ist eine AI Hallucination?
Eine Ausgabe eines Sprachmodells, die selbstbewusst und plausibel, aber faktisch falsch ist. In der Analytics heißt das meist: Das Modell erfindet eine Zahl oder eine Metrik-Definition, statt echte Daten zu lesen.
Warum halluzinieren KI-Modelle Zahlen?
Weil ein Modell ohne Live-Datenverbindung die Zahl nicht nachschlagen kann und deshalb einen plausibel klingenden Wert aus seinem Training vorhersagt. Ohne Grounding hat es keine Möglichkeit, die echte Antwort zu kennen.
Wie stoppst du das Halluzinieren einer KI in der Analytics?
Verankere sie. Verbinde das Modell über einen MCP-Server mit echten Daten, definiere Metriken in einem Semantic Layer, damit Definitionen konsistent sind, und gib ihm Read-only-Zugriff auf die Zahlen, die es abrufen statt raten soll.