Embedding
Ein Embedding ist eine numerische Vektordarstellung von Text, Bildern oder anderen Daten, die deren Bedeutung so kodiert, dass ähnliche Inhalte nahe beieinander liegende Vektoren erhalten.
Kurz erklärt
Ein Embedding-Modell wandelt Eingaben in einen Vektor aus mehreren Hundert bis Tausend Zahlen um. Inhalte mit ähnlicher Bedeutung - etwa die Sätze “Der Hund bellt” und “Der Hund kläfft” - erhalten dabei Vektoren, die im entstehenden mehrdimensionalen Raum nah beieinanderliegen, während inhaltlich unähnliche Texte weiter voneinander entfernt sind.
Beispiel
Eine Suchfunktion wandelt sowohl die Suchanfrage als auch alle gespeicherten Dokumente in Embeddings um und findet die relevantesten Ergebnisse, indem sie die Vektoren mit der geringsten Distanz zur Anfrage ermittelt - statt nur nach exakten Wortübereinstimmungen zu suchen (semantische Suche).
Warum ist das relevant?
Embeddings sind die technische Grundlage für semantische Suche, Empfehlungssysteme und RAG-Systeme, da sie es ermöglichen, inhaltliche Ähnlichkeit statt nur wörtlicher Übereinstimmung zu erfassen. Das macht Suchfunktionen deutlich robuster gegenüber Synonymen, Umformulierungen und Tippfehlern.
Häufige Missverständnisse
Embeddings sind für Menschen nicht direkt interpretierbar - die einzelnen Zahlenwerte eines Vektors haben keine unmittelbare, für sich genommen verständliche Bedeutung, sondern entfalten ihren Sinn erst im Vergleich zu anderen Vektoren. Zudem liefern unterschiedliche Embedding-Modelle inkompatible Vektorräume: Embeddings verschiedener Modelle lassen sich nicht direkt miteinander vergleichen.