RAG
RAG (Retrieval-Augmented Generation) ist eine Methode, bei der ein Sprachmodell vor der Antwortgenerierung relevante Informationen aus einer externen Wissensquelle abruft.
Kurz erklärt
Statt sich ausschließlich auf im Training gelerntes Wissen zu verlassen, sucht ein RAG-System zunächst in einer externen Datenquelle - etwa einer Dokumentendatenbank oder Vector Database - nach relevanten Informationen und übergibt diese als zusätzlichen Kontext an das Sprachmodell, bevor es eine Antwort generiert.
Beispiel
Ein internes Support-Tool eines Unternehmens durchsucht bei einer Nutzerfrage zunächst die eigene Dokumentation nach passenden Abschnitten und lässt das Sprachmodell die Antwort auf Basis dieser Abschnitte formulieren - statt sich auf allgemeines Trainingswissen zu verlassen.
Warum ist das relevant?
RAG reduziert Halluzinationen und ermöglicht es, ein Sprachmodell mit aktuellem oder unternehmensspezifischem Wissen zu verbinden, ohne es neu trainieren zu müssen. Das macht RAG zu einem der praxisrelevantesten Muster beim Einsatz von LLMs in Unternehmen.
Häufige Missverständnisse
RAG verhindert Halluzinationen nicht vollständig - ein Modell kann abgerufene Informationen weiterhin falsch interpretieren oder mit erfundenen Details vermischen. Die Qualität eines RAG-Systems hängt zudem stark von der Qualität der Suche (Retrieval) ab, nicht nur vom verwendeten Sprachmodell.