Halluzination ist kein Lügen und kein Bug, sondern eine Folge davon, wie Sprachmodelle Antworten erzeugen. Der Unterschied entscheidet, ob ein Fehler in der Buchhaltung landet oder rechtzeitig auffällt.
KI-unterstützt · redaktionell geprüft
Ein KI-Modell, das nach der Umsatzsteuer-ID eines Lieferanten gefragt wird und ohne zu zögern eine neunstellige Nummer nennt, die in keiner einzigen Rechnung steht, halluziniert. Das Wort klingt dramatischer, als die Sache ist – und genau das sorgt für die meisten Missverständnisse in Betrieben, die ChatGPT, Copilot oder ein anderes Sprachmodell im Alltag einsetzen.
Ein Sprachmodell sagt nicht Fakten vor, es sagt das nächste wahrscheinliche Wort vorher. Gefragt nach einem Datum, einer Zahl oder einem Namen, erzeugt es eine Antwort, die zum Satzmuster passt – unabhängig davon, ob irgendwo in den Trainingsdaten tatsächlich dieser Wert stand. Fehlt dem Modell das Wissen, bricht es die Antwort nicht ab. Es füllt die Lücke mit etwas, das plausibel klingt. Genau diesen Vorgang nennt die KI-Forschung Halluzination: eine erfundene, aber grammatikalisch und stilistisch einwandfreie Aussage.
Das unterscheidet die Maschine fundamental von einem Mitarbeiter, der auf eine Frage ehrlich mit „weiß ich nicht“ antwortet. Ein Sprachmodell kennt diesen Zustand kaum, außer man bringt es ihm gezielt bei, Unsicherheit zu markieren.
In Gesprächen mit Kunden und Mitarbeitenden fällt häufig der Satz: „Die KI hat gelogen.“ Das trifft die Sache nicht. Lügen setzt Absicht voraus, ein Bewusstsein für die Wahrheit und den Willen, sie zu verschleiern. Nichts davon ist bei einem Sprachmodell vorhanden. Es gibt keine innere Instanz, die zwischen wahr und falsch unterscheidet und sich für Falsch entscheidet.
Die zweite Verwechslung ist subtiler: Viele behandeln eine Halluzination wie einen Software-Bug, den man durch ein Update oder einen Neustart behebt. Auch das stimmt nicht. Ein Bug ist ein Fehler im Code, reproduzierbar und theoretisch behebbar. Eine Halluzination entsteht aus der Funktionsweise selbst, aus der Wahrscheinlichkeitsrechnung, mit der das Modell arbeitet. Sie lässt sich eindämmen, durch bessere Datengrundlage oder zusätzliche Prüfschritte, aber nicht grundsätzlich abstellen. Wer das erwartet, wird enttäuscht – und genau diese Erwartungshaltung macht den Umgang mit KI-Agenten im Kleinbetrieb riskant, wie ein früherer Beitrag zur Autonomie solcher Systeme zeigt.
Dass Skepsis gegenüber vorschnellen KI-Anekdoten verbreitet ist, zeigt sich auch außerhalb der Fachdiskussion: Eine ZEIT-Kolumne mit dem Titel „Erzähl mir bloß nicht, was dein Chatbot so erzählt“ spottet genau über diesen unreflektierten Alltagseifer.
Drei Signale helfen bei der Einordnung. Erstens: Der Ton. Eine Halluzination kommt selten zögerlich daher, sondern selbstsicher, oft mit Details, die zusätzliche Glaubwürdigkeit erzeugen sollen – eine erfundene Paragrafennummer etwa, oder ein Aktenzeichen, das es nicht gibt. Zweitens: die Wiederholbarkeit. Stellt man dieselbe Frage zweimal, liefern viele Modelle unterschiedliche Details, ein starkes Indiz dafür, dass keine feste Quelle dahintersteckt. Drittens: erfundene Belege. Sprachmodelle erzeugen gelegentlich Links, Studientitel oder Gesetzesnummern, die wie echte Treffer aussehen, aber ins Leere führen. Genau das ist der Grund, warum eine Angabe ohne nachprüfbare Quelle grundsätzlich mit Vorsicht zu behandeln ist.
Angenommen, ein Steuerberatungsbüro lässt sich von einem KI-Tool eine Übersicht gängiger AfA-Sätze für Büroausstattung zusammenstellen. Das Modell nennt für eine Gerätegruppe einen Prozentsatz, der plausibel klingt, in keiner amtlichen AfA-Tabelle aber so auftaucht. Niemand hat dem Modell diese Zahl „eingegeben“ – es hat sie aus Mustern ähnlicher Tabellen rekonstruiert. Wird die Zahl ungeprüft übernommen, landet ein Fehler in der Buchhaltung, der sich erst bei der nächsten Betriebsprüfung zeigt.
Nicht jede falsche Antwort ist eine Halluzination. Fragt ein Betrieb ein KI-Modell, ob die E-Rechnungspflicht bereits für alle Rechnungsgrößen gilt, und bekommt eine veraltete Antwort, liegt das meist an einem anderen Problem: dem Trainingsstand des Modells. Die Regeln rund um die E-Rechnungspflicht 2027 haben sich seither mehrfach präzisiert, und ein Modell mit älterem Wissensstand gibt schlicht das wieder, was zum Zeitpunkt seines Trainings galt. Das ist kein erfundener Inhalt, sondern ein korrekt wiedergegebener, aber überholter Stand. In der Praxis braucht das zwei verschiedene Reflexe: Gegen Halluzination hilft die Gegenprüfung der Einzelangabe, gegen veraltetes Wissen hilft nur die Frage nach dem Stichtag der Information, oder ein Tool, das aktuelle Quellen direkt einbindet statt aus dem Training zu zitieren.
Wer ohnehin gerade die eigene Website überarbeitet, etwa weil KI-generierte Texte dort Einzug gehalten haben, sollte diese Gelegenheit nutzen und einen Blick auf die technische Basis werfen: Der kostenlose Website-Check von Log-System Development prüft Ladezeit, SEO-Grundlagen und weitere Kennwerte in wenigen Minuten. Für Betriebe, die darüber hinaus eine Website wollen, die tatsächlich Anfragen auslöst, oder eine App planen und dafür lieber direkt mit Entwicklern statt über eine Agentur sprechen, ist das eine naheliegende erste Anlaufstelle.
Für alle, die tiefer einsteigen wollen, wie Sprachmodelle technisch funktionieren, bietet der KI-Campus kostenlose Kurse zu diesem Thema an – ein Format, das sich an Zeit und Vorwissen des Lernenden anpassen lässt, nicht an einen festen Stundenplan.
Eine KI-Antwort ohne Quellenangabe bleibt ein Vorschlag, keine Auskunft. Diese eine Unterscheidung, bevor eine Zahl in die Buchhaltung oder eine Aussage an einen Kunden geht, kostet eine Minute.