Grundlagen
RAG – Retrieval-Augmented Generation
RAG (Retrieval-Augmented Generation) ruft zu einer Frage passende Textstellen aus einer Wissensbasis ab und gibt sie dem Modell als Kontext. Dadurch werden Antworten belegbarer und lassen sich mit eigenen, aktuellen Dokumenten verankern.
Der Ablauf in vier Schritten
| Schritt | Was passiert |
|---|---|
| 1. Aufbereiten | Dokumente in Abschnitte teilen und als Embeddings speichern |
| 2. Suchen | Zur Frage die ähnlichsten Abschnitte finden (Retrieval) |
| 3. Anreichern | Die gefundenen Stellen als Kontext an das Modell geben |
| 4. Antworten | Das Modell formuliert eine Antwort auf Basis dieser Quellen |
Warum RAG nützlich ist
RAG reduziert Halluzinationen, weil das Modell auf konkrete Quellen zurückgreift. Es hält Antworten aktueller, ohne das Modell neu zu trainieren, und macht Antworten nachvollziehbar, wenn Quellen mit ausgegeben werden.
Grenzen
RAG ist nur so gut wie die Wissensbasis und die Suche. Schlechte Daten, falsche Abschnitte oder fehlende Quellen führen zu schwachen Antworten. Auch mit RAG bleibt eine Prüfung der Ausgaben nötig.
Für datensensible Anwendungen lässt sich RAG vollständig lokal mit offenen Embedding- und Sprachmodellen umsetzen.
Quellen und weiterführende Informationen
- NIST: AI RMF (Kontext: Zuverlässigkeit). Standard/Behörde · abgerufen am 06.08.2026
- Hugging Face: RAG – Dokumentation. Dokumentation · abgerufen am 06.08.2026
Häufige Fragen
Verhindert RAG Halluzinationen vollständig?
Nein, aber es reduziert sie deutlich, weil das Modell auf konkrete Quellen zugreift. Eine Prüfung der Ergebnisse bleibt sinnvoll.
Muss ich das Modell für RAG neu trainieren?
Nein. RAG gibt dem Modell relevante Quellen zur Laufzeit als Kontext, ohne Training.