langgraph_crag_local.ipynb
CRAG mit lokalen LLMs (Ollama).
CRAG mit lokalen LLMs (Ollama).
Für wen: Wie oben, lokal/offline.
So nutzt du es
Das sind Jupyter-Notebooks: herunterladen, pip install langchain langgraph und in Jupyter/VS Code öffnen. Die Notebooks erklären Schritt für Schritt agentische RAG-Muster zum Nachbauen.
Im Detail
Identische CRAG-Architektur wie das Cloud-Pendant, aber mit lokal laufenden Modellen über Ollama statt API-Aufrufen. Dokument-Bewertung, Antwortgenerierung und ggf. Query-Umformulierung laufen komplett offline, was für datenschutzsensible Anwendungsfälle oder Umgebungen ohne API-Budget relevant ist. Der Preis dafür: lokale Modelle sind bei Bewertungsaufgaben oft weniger zuverlässig als GPT-4-Klasse-Modelle, wodurch die Grading-Schritte ungenauer ausfallen können. Für Prototyping, Demos ohne Internetzugang oder als Basis für eine später zu optimierende On-Premise-Lösung ist das Notebook eine gute Startvorlage.
Praxis-Tipp
Vorher ein für Klassifikations- und Bewertungsaufgaben geeignetes lokales Modell wählen – kleine 7B-Modelle liefern beim Dokument-Grading oft zu unzuverlässige Ja/Nein-Urteile.
Siehe auch
Lizenz & Quelle
- Lizenz: MIT
- Quelle: langchain-ai/langgraph
Inhalt ansehen (langgraph_crag_local.ipynb)
Lade …
Erfahrungen & Kommentare.
Funktioniert der Code-Beispiel bei Ihnen? Tipps, Stolperfallen, Varianten — teilen Sie es mit der Community.
Lade Kommentare …
Passt dazu.
langgraph_agentic_rag.ipynb
Agentic RAG: Ein Agent entscheidet selbst, ob/was er aus dem Vektorindex abruft, statt stur immer zu suchen.
langgraph_adaptive_rag.ipynb
Adaptive RAG: Router wählt je Frage die Strategie (Index-Abruf vs. Websuche) + Selbstkorrektur bei schlechten Treffern.
langgraph_adaptive_rag_local.ipynb
Adaptive RAG komplett mit lokalen LLMs (Ollama) — ohne Cloud-API.