Agent-Frameworks · Foto: m4rlonj, CC BY 2.0
langgraph_crag.ipynb
Zuletzt aktualisiert:
Typ
Code-Beispiel
Lizenz
MIT
Quelle
Anwendungsfeld
LangChain / LangGraph
Wer RAG-Halluzinationen durch Dokument-Grading reduzieren will.
Voraussetzungen
- Python/Jupyter-Umgebung mit LangGraph/LangChain
- LLM-API-Zugang für Bewertung und Antwortgenerierung
- Anbindung an eine Websuche für den Korrektur-Schritt
- Grundverständnis von RAG-Pipelines
Corrective RAG (CRAG): Abgerufene Dokumente werden bewertet; bei schlechter Qualität wird die Suche korrigiert/ergänzt (Websuche).
Für wen: Wer RAG-Halluzinationen durch Dokument-Grading reduzieren will.
Im Detail
Corrective RAG fügt nach dem Retrieval eine Bewertungsstufe ein: Ein LLM stuft jedes abgerufene Dokument als relevant, mehrdeutig oder irrelevant ein. Bei durchweg schlechter Bewertung wird nicht mit schwachen Quellen geantwortet, sondern zusätzlich eine Websuche angestoßen oder die Suche verfeinert, bevor die Antwort generiert wird. Der Unterschied zu Self-RAG liegt im Zeitpunkt der Prüfung: CRAG bewertet die Quellen vor der Antwort, Self-RAG die fertige Antwort danach. Sinnvoll, wenn der Vektorindex lückenhaft oder von schwankender Qualität ist und Halluzinationen durch unpassende Treffer ein bekanntes Problem sind. Braucht wie Adaptive RAG einen Websuche-API-Zugang als Fallback.
Schritt für Schritt
- Binden Sie Ihre eigene Dokumentenbasis bzw. Ihren Vector Store ein, statt die Beispieldaten zu verwenden
- Prüfen und passen Sie die Bewertungsschwelle an, ab der Dokumente als „irrelevant“ gelten
- Hinterlegen Sie den API-Zugang für die Websuche, damit der Korrektur-Pfad tatsächlich greift
- Testen Sie mit typischen und mit bewusst schwierigen Fragen, bei denen Ihre Dokumentenbasis Lücken hat
- Vergleichen Sie Antworten mit und ohne ausgelöste Korrektur, um den Effekt sichtbar zu machen
- Passen Sie bei Bedarf den Prompt für den Bewertungsschritt an Ihre Inhalte an
Beispiel aus der Praxis
Sie fragen Ihren internen Wissens-Bot zu einem Thema, das in der Dokumentenbasis nur schwach abgedeckt ist. Das Grading stuft die gefundenen Treffer als unzureichend ein und löst automatisch eine Websuche aus, bevor die Antwort generiert wird - statt dass der Bot aus dünnen Quellen eine selbstsichere, aber falsche Antwort zusammenbaut.
Praxis-Tipp
Loggen Sie die Grading-Scores pro Dokument mit — so erkennen Sie, ob Ihr Index systematisch bei bestimmten Themen schwache Treffer liefert.
Stolperfallen
Ist die Bewertungsschwelle zu lasch eingestellt, greift die Korrektur auch bei schwachen Treffern nicht, und das Halluzinationsrisiko bleibt bestehen. Bedenken Sie außerdem, dass die zusätzliche Websuche Latenz und Kosten pro Anfrage erhöht.
Siehe auch
Lizenz & Quelle
- Lizenz: MIT
- Quelle: langchain-ai/langgraph
Inhalt ansehen (langgraph_crag.ipynb)
Lade …
Erfahrungen & Kommentare.
Funktioniert der Code-Beispiel bei Ihnen? Tipps, Stolperfallen, Varianten — teilen Sie es mit der Community.
Lade Kommentare …
Passt dazu.
langgraph_agentic_rag.ipynb
Agentic RAG: Ein Agent entscheidet selbst, ob/was er aus dem Vektorindex abruft, statt stur immer zu suchen.
langgraph_adaptive_rag.ipynb
Adaptive RAG: Router wählt je Frage die Strategie (Index-Abruf vs. Websuche) + Selbstkorrektur bei schlechten Treffern.
langgraph_adaptive_rag_local.ipynb
Adaptive RAG komplett mit lokalen LLMs (Ollama) — ohne Cloud-API.