Halluzination
Eine Halluzination ist eine von einem Sprachmodell erzeugte Aussage, die plausibel und selbstsicher klingt, aber sachlich falsch oder frei erfunden ist.
Kurz erklärt
Sprachmodelle generieren Text, indem sie auf Basis statistischer Muster das jeweils wahrscheinlichste nächste Wort vorhersagen - sie verfügen über kein eingebautes Faktenprüfungssystem. Wenn ein Modell zu einem Thema keine verlässlichen Informationen “gelernt” hat oder eine Frage außerhalb seines Wissens liegt, kann es dennoch eine überzeugend klingende, aber inhaltlich falsche Antwort erzeugen.
Beispiel
Ein Sprachmodell wird nach einer nicht existierenden wissenschaftlichen Studie gefragt und erfindet daraufhin einen plausibel klingenden Titel, Autoren und sogar ein Erscheinungsjahr - obwohl die Studie in Wirklichkeit nie existiert hat.
Warum ist das relevant?
Halluzinationen sind eine der zentralen Einschränkungen heutiger Sprachmodelle und besonders kritisch in Anwendungsfällen mit hohen Anforderungen an Faktentreue, etwa im medizinischen, rechtlichen oder journalistischen Kontext. Techniken wie RAG oder das Zitieren von Quellen können das Risiko verringern, aber nicht vollständig ausschließen.
Häufige Missverständnisse
Halluzinationen sind kein seltener Softwarefehler, der behoben werden kann, sondern eine strukturelle Eigenschaft der Art und Weise, wie generative Sprachmodelle funktionieren - ein gewisses Risiko bleibt bei allen aktuellen Modellen bestehen. Auch ein selbstbewusster, flüssiger Sprachstil ist kein verlässliches Indiz für inhaltliche Korrektheit; Modelle formulieren falsche Aussagen oft ebenso überzeugend wie richtige.