KI-Halluzination (AI Hallucination)
Eine KI-Halluzination liegt vor, wenn ein Sprachmodell etwas Falsches als wahr ausgibt und erfundene Fakten, Quellen oder Details im selben überzeugten Ton vorträgt wie eine korrekte Antwort, weil das Modell plausiblen Text vorhersagt statt geprüfte Informationen abzurufen.
Halluzinationen entstehen, weil ein Sprachmodell die jeweils wahrscheinlichsten nächsten Wörter erzeugt, nicht die zutreffendsten. Das Modell hat die Form korrekt klingender Sprache gelernt und kann deshalb flüssige, gut strukturierte Aussagen produzieren, auch wenn es über das Thema kein echtes Wissen besitzt. Hat es nichts Belastbares, worauf es sich stützen kann, hält es nicht inne und markiert die Lücke nicht: Es füllt sie mit einer erfundenen Produktangabe, einem ausgedachten Zitat, einem Preis, der nie verlangt wurde, oder einer Quelle, die auf eine nicht existierende Seite verweist. Entscheidend ist, dass der überzeugte Ton identisch bleibt, egal ob die Antwort fundiert oder geraten ist, und genau das macht Halluzinationen beim bloßen Lesen so schwer zu erkennen.
Nimm einen Shopify-Händler, der Merino-Funktionswäsche verkauft. Eine Kundin fragt einen Assistenten, ob die Marke eine lebenslange Reparaturgarantie anbietet. Der Shop hat eine solche Zusage nie veröffentlicht, aber ähnliche Outdoor-Marken tun das oft, also leitet das Modell eine ab und nennt sie schlicht: ja, mit kostenlosen Reparaturen auf Lebenszeit. Die Kundin kommt mit der Erwartung eines Versprechens, das der Händler nie gegeben hat. Nichts wurde abgerufen, die Aussage wurde aus der statistischen Nachbarschaft vergleichbarer Marken zusammengesetzt. Dasselbe Muster erfindet Waschhinweise, Faseranteile oder Größenempfehlungen, die der tatsächlichen Produktseite widersprechen.
Der verlässlichste Schutz besteht darin, das Modell zum Antwortzeitpunkt in abgerufenen Quellen zu verankern, der Ansatz hinter Retrieval-Augmented Generation. Wenn ein System echte Dokumente heranzieht und nur aus ihnen antwortet, sinken Halluzinationen deutlich, weil das Modell Belege zusammenfasst statt sie zu erfinden. Das ist auch der Grund, warum das, was ein Modell über deine Marke sagt, davon abhängt, was es finden kann. Sind korrekte, mehrfach bestätigte Informationen zu deinen Produkten, Richtlinien und Preisen leicht abrufbar, hat das Modell etwas Wahres, an dem es sich festhalten kann, statt aus dem Durchschnitt deiner Kategorie zu raten.
Für Antwortmaschinen wie ChatGPT, Perplexity und Google AI Overviews wird Halluzination damit zu einem praktischen Grund, klar zu publizieren. Diese Systeme stützen sich auf das, was sie über dich auf deiner Seite, in strukturierten Daten und in Drittquellen lesen können. Spärliche oder widersprüchliche Informationen vergrößern die Lücke, die das Modell mit Erfundenem füllt, konsistente, konkrete und sauber ausgezeichnete Fakten verkleinern sie. Bewertungen helfen hier ebenfalls, denn sie bestätigen echte Aussagen zu Passform, Haltbarkeit und Service in einer Sprache, die das Modell zitieren kann.
Halluzination lässt sich nie vollständig ausschalten, nur verringern. Behandle deshalb jede unbelegte KI-Aussage zu Preis, Verfügbarkeit oder technischen Daten als ungeprüft, bis sie gegen eine Primärquelle abgeglichen ist. Für Betreiber lautet die ehrliche Erkenntnis doppelt: Du kannst nicht steuern, was ein Modell im luftleeren Raum erfindet, aber du kannst den luftleeren Raum verkleinern, indem du echte, zitierbare Informationen leicht auffindbar machst, und du solltest die großen Assistenten regelmäßig nach deinem eigenen Shop fragen, um überzeugt vorgetragene Unwahrheiten zu finden, bevor es Kunden tun.