KI-Halluzinationen: Warum KI lügt

Rund 27 Prozent aller Antworten, die große Sprachmodelle in professionellen Umgebungen liefern, enthalten nachweislich falsche oder nicht belegbare Informationen – so schätzt das Analystenhaus Gartner das Problem ein. Künstliche Intelligenz lügt nicht aus böser Absicht. Aber sie lügt – und das mit beunruhigender Selbstsicherheit.

Was eine Halluzination eigentlich ist

Der Begriff klingt poetisch, beschreibt aber ein ernstes technisches Versagen: Ein Sprachmodell produziert Inhalte, die nicht der Realität entsprechen – und präsentiert diese dennoch als gesicherte Fakten. Das können erfundene Quellen sein, falsch datierte Ereignisse, nicht existierende Gerichtsurteile oder schlicht falsche naturwissenschaftliche Aussagen. Was all diese Fälle verbindet: Das Modell zweifelt nicht, es zögert nicht, es warnt nicht. Es formuliert seine Fehler mit derselben sprachlichen Präzision wie korrekte Informationen.

Der Begriff stammt ursprünglich aus der Psychiatrie, wurde aber von der KI-Forschungsgemeinschaft übernommen, weil er das Phänomen treffend beschreibt: Eine Wahrnehmung, die subjektiv real wirkt, aber keine objektive Grundlage hat. In der Praxis bedeutet das: Wer einem Chatbot vertraut, ohne seine Ausgaben zu überprüfen, läuft Gefahr, Fehler als Fakten zu übernehmen.

Wie Sprachmodelle funktionieren – und warum Fehler unvermeidlich entstehen

Um zu verstehen, warum Halluzinationen entstehen, muss man verstehen, wie große Sprachmodelle – im Fachjargon Large Language Models, kurz LLMs – grundsätzlich arbeiten. Diese Systeme lernen nicht Fakten auswendig wie ein Lexikon. Sie lernen statistische Muster: Welche Wörter folgen in welchem Kontext aufeinander? Was ist eine wahrscheinliche Fortsetzung dieses Satzes, dieses Absatzes, dieser Argumentation?

Ein LLM ist, vereinfacht gesagt, eine hochkomplexe Wahrscheinlichkeitsmaschine. Wenn es auf eine Frage antwortet, wählt es in jedem Schritt das statistisch plausibelste nächste Wort – auf Basis von Milliarden von Textbeispielen aus dem Training. Das führt zu fließenden, kohärenten Texten. Aber Kohärenz ist nicht dasselbe wie Korrektheit. Ein Text kann grammatisch perfekt, stilistisch überzeugend und inhaltlich falsch sein.

Das Trainingsproblem: Wenn der Datensatz lügt

Ein wesentlicher Ursprung von Halluzinationen liegt in den Trainingsdaten selbst. Diese stammen zu großen Teilen aus dem Internet – und das Internet ist kein Archiv gesicherter Wahrheit. Es enthält Fehlinformationen, veraltete Daten, Gerüchte, satirische Texte und schlecht recherchierte Inhalte. Ein Sprachmodell, das auf diesen Daten trainiert wird, lernt zwangsläufig auch deren Fehler mit.

Hinzu kommt das sogenannte Cutoff-Problem: Jedes Modell hat einen Wissensstand, der zu einem bestimmten Zeitpunkt eingefroren wurde. Ereignisse nach diesem Datum kennt es nicht – aber anstatt das zuzugeben, neigen manche Systeme dazu, plausibel klingende Antworten zu konstruieren, die den Fakten nicht entsprechen. Dieses Phänomen wird in der Forschung als "Confident Confabulation" bezeichnet – zuversichtliche Erfindung. Ähnliche Probleme zeigen sich auch bei sprachübergreifenden Systemen, was Entwickler von mehrsprachigen KI-Modellen für das Deutsche vor besondere Herausforderungen stellt.

Die Architektur als strukturelles Problem

Ein weiterer Faktor liegt in der Architektur moderner Transformer-Modelle, die die Basis nahezu aller heutigen LLMs bilden. Diese Systeme haben kein separates "Fakten-Modul", das Aussagen gegen eine Datenbank prüft. Wissen ist diffus über Millionen von Modellparametern verteilt – und lässt sich nicht einfach auf einzelne Speicherorte zurückverfolgen oder verifizieren.

Das Modell "weiß" also nicht im menschlichen Sinne, was es weiß. Es hat kein Bewusstsein für die Grenzen seines Wissens. Wenn eine Antwort statistisch plausibel klingt, wird sie generiert – unabhängig davon, ob die dahinterliegende Information korrekt ist. Besonders problematisch wird das bei sehr spezifischen Fragen: Je seltener ein Thema in den Trainingsdaten vorkam, desto größer ist die Wahrscheinlichkeit, dass das Modell halluziniert.

Wie groß das Problem wirklich ist

Die Frage nach dem Ausmaß von Halluzinationen ist schwerer zu beantworten, als sie klingt – weil Halluzinationsraten stark vom Aufgabentyp abhängen. Bei einfachen, gut dokumentierten Fragen performen aktuelle Modelle deutlich besser als bei spezialisierten, seltenen oder zeitkritischen Themen. Eine einfache Frage zur Hauptstadt Frankreichs wird kaum zu einer Fehlantwort führen. Eine Frage nach einem obskuren Gerichtsurteil aus einem Nischenbereich des Steuerrechts ist dagegen hochriskant.

Statista hat in einer Marktübersicht dokumentiert, dass das Bewusstsein für dieses Problem in der Bevölkerung zwar wächst, die konkrete Kompetenz im Umgang damit aber hinterherhinkt. Viele Nutzerinnen und Nutzer können zwar benennen, dass KI-Fehler möglich sind – sie erkennen diese Fehler in konkreten Ausgaben aber häufig nicht. Das ist das eigentliche Kernproblem: Halluzinationen sind oft nicht offensichtlich falsch. Sie klingen richtig.

Besonders brisant ist die Situation in professionellen Kontexten. Bekannt geworden sind Fälle, in denen Anwälte nicht existierende Gerichtsurteile zitierten, die ein KI-System erfunden hatte. Journalisten übernahmen fehlerhafte Biografiedaten. Medizinische Fachkräfte erhielten Dosierungsempfehlungen, die keiner Leitlinie entsprachen. Diese Fälle sind keine Ausreißer – sie illustrieren ein systemisches Risiko.

Wer an Lösungen arbeitet – und was bisher funktioniert

Die KI-Branche ist sich des Problems bewusst und verfolgt verschiedene Strategien, um Halluzinationen zu reduzieren. Keine davon löst das Problem vollständig – aber einige zeigen messbare Fortschritte.

Ein zentraler Ansatz ist Retrieval-Augmented Generation, kurz RAG. Dabei wird das Sprachmodell nicht allein auf sein gespeichertes Wissen reduziert, sondern mit einer externen Datenquelle verbunden – etwa einer Wissensdatenbank oder dem Live-Web. Bevor das Modell antwortet, ruft es relevante Dokumente ab und nutzt diese als Grundlage. Dadurch wird die Antwort stärker an verifizierbare Quellen geknüpft. RAG reduziert Halluzinationen nachweislich, eliminiert sie aber nicht.

Ein weiterer Ansatz ist das sogenannte Fine-Tuning mit menschlichem Feedback, bekannt als RLHF (Reinforcement Learning from Human Feedback). Dabei bewerten menschliche Trainer Modellausgaben, und das System lernt, welche Antworten bevorzugt werden – darunter auch faktisch korrekte gegenüber selbstsicher falschen. Dieses Verfahren hat die Qualität kommerzieller Systeme erheblich verbessert.

Forscher arbeiten außerdem an Methoden der Unsicherheitsquantifizierung – also daran, Modellen beizubringen, ihre eigene Unwissenheit zu erkennen und zu kommunizieren. Statt einer erfundenen Antwort würde ein solches System sagen: "Dazu habe ich keine zuverlässigen Informationen." Das klingt simpel, ist technisch aber außerordentlich anspruchsvoll.

Die Hardwareseite spielt ebenfalls eine Rolle: Leistungsfähigere Chips ermöglichen größere, besser kalibrierte Modelle. Die aktuelle Diskussion rund um den Lieferengpass beim Nvidia Blackwell KI-Chip zeigt, wie eng Fortschritte in der KI-Forschung mit der Verfügbarkeit spezialisierter Halbleiter zusammenhängen – ein strukturelles Problem, das auch in der globalen Halbleiterkrise tiefe Wurzeln hat.

Was Nutzerinnen und Nutzer konkret tun können

Der Umgang mit Halluzinationen ist nicht allein eine Frage der Technik – er ist auch eine Frage der Medienkompetenz. Wer KI-Werkzeuge produktiv und sicher nutzen will, braucht ein Grundverständnis ihrer Grenzen. Das gilt privat wie beruflich.

Praktisch bedeutet das: Ausgaben von Sprachmodellen sollten bei faktenrelevanten Themen nie ungeprüft übernommen werden. Das gilt besonders für Zahlen, Zitate, Gerichtsurteile, Personendaten und medizinische Informationen. Ein einfaches Gegenchecken mit einer verlässlichen Primärquelle – einer offiziellen Website, einer wissenschaftlichen Datenbank, einem Nachschlagewerk – reicht in vielen Fällen aus, um Fehler aufzudecken.

Außerdem hilft es, die Art der Anfragen anzupassen. Offene, vage Fragen begünstigen Halluzinationen stärker als präzise, kontextreiche Prompts. Wer dem Modell mitteilt, worauf es sich beziehen soll – und relevante Dokumente direkt in den Kontext einbettet – reduziert den Spielraum für Erfindungen erheblich.

Unternehmen stehen vor zusätzlichen Anforderungen. Bitkom empfiehlt, KI-generierte Inhalte systematisch in bestehende Qualitätssicherungsprozesse zu integrieren und klare interne Richtlinien für den KI-Einsatz zu etablieren. Viele deutsche Unternehmen haben das noch nicht getan – was angesichts der Wachstumsraten bei der KI-Nutzung ein zunehmendes Risiko darstellt. Dieser Nachholbedarf ist Teil eines größeren Musters, das sich auch in anderen Bereichen zeigt, wenn man beobachtet, warum Deutschland beim Thema Digitalisierung strukturell hinterherhinkt.

Warum das Problem nicht verschwinden wird – aber beherrschbar ist

Wer auf den großen Durchbruch wartet, der Halluzinationen vollständig eliminiert, wird voraussichtlich lange warten. Die fundamentalen Ursachen – statistische Modellierung statt Wissensrepräsentation, unvollständige Trainingsdaten, fehlende Selbstreflexion der Systeme – sind keine Bugs, die sich mit einem Update beheben lassen. Sie sind strukturelle Eigenschaften der aktuellen Architektur.

Das bedeutet nicht, dass keine Fortschritte möglich sind. Die Halluzinationsraten aktueller Spitzenmodelle sind im Vergleich zu frühen Systemen deutlich gesunken. Die Entwicklung geht in die richtige Richtung. Aber sie wird wahrscheinlich keine vollständige Lösung bringen, sondern eine kontinuierliche Reduktion des Risikos – begleitet von besseren Werkzeugen zur Erkennung und Eingrenzung von Fehlern.

Für den gesellschaftlichen Diskurs ist das eine wichtige Nuancierung. KI-Halluzinationen rechtfertigen weder Hysterie noch Gleichgültigkeit. Sie rechtfertigen informierten, kritischen Umgang. Wer das beherzigt, kann die Stärken dieser Technologie nutzen – ohne unkritisch ihren Schwächen zu erliegen. Ähnlich differenziert sollte man auch gesellschaftliche Folgedebatten führen: Etwa wenn es darum geht, wie stark KI tatsächlich Arbeitsplätze abbaut und wo die Realität hinter den Schlagzeilen zurückbleibt.

Am Ende ist das Halluzinationsproblem ein Symptom einer tieferen Wahrheit über künstliche Intelligenz: Diese Systeme sind keine allwissenden Orakel. Sie sind mächtige, aber fehlerhafte Werkzeuge. Und Werkzeuge sind immer nur so gut wie das Wissen und die Kritikfähigkeit derer, die sie benutzen.