langgraph_self_rag_local.ipynb
Self-RAG mit lokalen LLMs (Ollama).
Self-RAG mit lokalen LLMs (Ollama).
Für wen: Wie oben, lokal/offline.
So nutzt du es
Das sind Jupyter-Notebooks: herunterladen, pip install langchain langgraph und in Jupyter/VS Code öffnen. Die Notebooks erklären Schritt für Schritt agentische RAG-Muster zum Nachbauen.
Im Detail
Dieselbe Selbstprüf-Logik wie beim Standard-Self-RAG-Notebook, jedoch mit lokalen Modellen via Ollama statt Cloud-APIs. Damit lässt sich die komplette Grounding-Prüfung offline und ohne laufende API-Kosten testen, was besonders für Datenschutz-Anforderungen oder Offline-Umgebungen interessant ist. Da Self-RAG mehrere aufeinanderfolgende Bewertungs- und Generierungsschritte braucht, wirkt sich die geringere Zuverlässigkeit kleinerer lokaler Modelle hier stärker aus als bei einfacheren Pipelines – die Fehleranfälligkeit der Selbstprüfung steigt. Am besten geeignet für Experimente und als Lernvorlage, weniger für produktionsreife Systeme mit hohen Genauigkeitsanforderungen.
Praxis-Tipp
Für stabilere Ergebnisse ein möglichst starkes lokal verfügbares Modell (13B+) verwenden, da die mehrfachen Selbstbewertungsschritte kleine Modelle schnell überfordern.
Siehe auch
Lizenz & Quelle
- Lizenz: MIT
- Quelle: langchain-ai/langgraph
Inhalt ansehen (langgraph_self_rag_local.ipynb)
Lade …
Erfahrungen & Kommentare.
Funktioniert der Code-Beispiel bei Ihnen? Tipps, Stolperfallen, Varianten — teilen Sie es mit der Community.
Lade Kommentare …
Passt dazu.
langgraph_agentic_rag.ipynb
Agentic RAG: Ein Agent entscheidet selbst, ob/was er aus dem Vektorindex abruft, statt stur immer zu suchen.
langgraph_adaptive_rag.ipynb
Adaptive RAG: Router wählt je Frage die Strategie (Index-Abruf vs. Websuche) + Selbstkorrektur bei schlechten Treffern.
langgraph_adaptive_rag_local.ipynb
Adaptive RAG komplett mit lokalen LLMs (Ollama) — ohne Cloud-API.