RAG (Retrieval-Augmented Generation)
Technik, die Informationssuche in einer Wissensdatenbank mit LLM-gestützter Antwortgenerierung kombiniert.
Technik, die Informationssuche in einer Wissensdatenbank mit LLM-gestützter Antwortgenerierung kombiniert.
Définition détaillée
RAG ist eine Architektur, die LLM-Fähigkeiten durch kontextuelle Informationen aus einer externen Wissensdatenbank erweitert. Der Prozess besteht aus zwei Schritten: (1) eine Abfrage ruft relevante Dokumente aus einer Vektordatenbank ab, (2) diese Dokumente werden in den LLM-Prompt eingefügt, um eine kontextualisierte Antwort zu generieren.
Cas d'usage
HR-Dokumenten-Chatbot: Mitarbeiter befragen ihre internen Richtlinien in natürlicher Sprache. RAG findet relevante Passagen, das LLM generiert eine präzise, belegte Antwort.
Termes associés
Questions fréquentes
Was ist der Unterschied zwischen RAG und Fine-Tuning?
RAG fügt dynamischen Kontext hinzu, ohne das Modell zu verändern, ideal für sich änderndes Wissen. Fine-Tuning passt das Modell tiefgehend an eine Domäne an.
Ist RAG mit Datenschutz kompatibel?
Ja, RAG kann vollständig lokal mit einem Open-Source-LLM und einer privaten Vektordatenbank betrieben werden.