Fine-Tuning
Fine-Tuning ist das zusätzliche Training eines bereits vortrainierten KI-Modells mit spezialisierten Daten, um es für eine bestimmte Aufgabe oder Domäne anzupassen.
Kurz erklärt
Statt ein Modell komplett neu zu trainieren, wird beim Fine-Tuning ein bereits mit allgemeinem Wissen vortrainiertes Modell mit einem vergleichsweise kleinen, spezialisierten Datensatz weitertrainiert. Dadurch übernimmt das Modell spezifisches Vokabular, einen bestimmten Ton oder Verhaltensmuster, ohne das allgemeine, im Vortraining erlernte Sprachverständnis zu verlieren.
Beispiel
Ein Unternehmen trainiert ein bestehendes Sprachmodell mit tausenden Beispielen aus dem eigenen Kundensupport nach, damit es Anfragen im firmenspezifischen Tonfall und mit korrektem Fachvokabular beantwortet, statt generische Antworten zu geben.
Warum ist das relevant?
Fine-Tuning ermöglicht spezialisierte KI-Anwendungen, ohne die enormen Kosten eines vollständigen Modelltrainings von Grund auf tragen zu müssen. Es ist besonders sinnvoll, wenn ein bestimmtes Antwortverhalten oder Format konsistent erlernt werden soll, das sich nur schwer allein über Prompts steuern lässt.
Häufige Missverständnisse
Fine-Tuning wird häufig mit RAG verwechselt, obwohl beide unterschiedliche Probleme lösen: Fine-Tuning verändert das Verhalten und den Stil eines Modells dauerhaft, verschafft ihm aber kein zuverlässiges Zugriffswissen auf aktuelle oder firmenspezifische Fakten - dafür eignet sich RAG in der Regel besser und mit geringerem Aufwand. Fine-Tuning ist zudem kein Allheilmittel gegen Halluzinationen und kann bei unzureichenden Trainingsdaten sogar neue Fehler einführen.