haystack_pipeline.py

Gleiches RAG-Prinzip mit dem Haystack-Framework (deutsche Firma deepset) statt LlamaIndex.

So nutzt du es

Anleitung lesen, Befehle ins Terminal kopieren. Ollama gibt es für macOS, Windows und Linux — Installation von ollama.com.

Im Detail

Haystack ist das RAG-Framework des Berliner Unternehmens deepset und verfolgt einen expliziteren, komponentenbasierten Ansatz als LlamaIndex: Retriever, Prompt-Builder und Generator werden einzeln verdrahtet statt weitgehend automatisch zusammengesetzt. Das macht die Pipeline etwas aufwendiger zu schreiben, dafür transparenter und leichter zu debuggen, wenn ein Schritt nicht wie erwartet funktioniert. Inhaltlich liefert das Skript dasselbe Ergebnis wie die LlamaIndex-Varianten – lokale Dokumente durchsuchen und mit einem Ollama-Modell beantworten. Sinnvoll für alle, die mehr Kontrolle über einzelne RAG-Schritte wollen oder ohnehin schon mit Haystack arbeiten.

Praxis-Tipp

Eigene PDF-Sammlung indexieren und lokal befragen; die Reihenfolge Retriever → PromptBuilder → Generator lässt sich einzeln anpassen, um Zwischenschritte zu debuggen.

Siehe auch

• llamaindex_ollama_pipeline.py
• llamaindex_ollama_github_pipeline.py

Lizenz & Quelle

• Lizenz: MIT
• Quelle: open-webui/pipelines

Lade …