ollama_pipeline.py
Minimalbeispiel: Anfragen an einen Ollama-Server durchreichen — der beste Startpunkt, um das Pipeline-Prinzip zu verstehen.
Minimalbeispiel: Anfragen an einen Ollama-Server durchreichen — der beste Startpunkt, um das Pipeline-Prinzip zu verstehen.
So nutzt du es
Anleitung lesen, Befehle ins Terminal kopieren. Ollama gibt es für macOS, Windows und Linux — Installation von ollama.com.
Im Detail
Das ist die schlankeste Möglichkeit, Open WebUI mit einem Ollama-Server zu verbinden, und dient in der Pipelines-Sammlung als Referenzbeispiel für das grundlegende Prinzip: Anfrage entgegennehmen, an ein Backend weiterreichen, Antwort zurückgeben. Für den reinen Betrieb braucht man diese Pipeline meist gar nicht, da Open WebUI Ollama-Server auch direkt nativ anbinden kann – ihr eigentlicher Wert liegt darin, als verständlicher Ausgangspunkt zum Schreiben eigener Pipelines zu dienen, etwa wenn zusätzliche Logik wie Filterung, Logging oder Preprocessing eingebaut werden soll. Einsteiger, die das Pipeline-Konzept von Open WebUI verstehen wollen, sollten hier anfangen, bevor sie komplexere Varianten wie Manifold- oder LlamaIndex-Pipelines angehen.
Praxis-Tipp
Datei kopieren und schrittweise erweitern, etwa einen einfachen Logging-Aufruf vor dem Weiterreichen der Anfrage einbauen, um das Pipeline-Konzept praktisch zu verstehen.
Siehe auch
Lizenz & Quelle
- Lizenz: MIT
- Quelle: open-webui/pipelines
Inhalt ansehen (ollama_pipeline.py)
Lade …
Erfahrungen & Kommentare.
Funktioniert der Anleitung bei Ihnen? Tipps, Stolperfallen, Varianten — teilen Sie es mit der Community.
Lade Kommentare …
Passt dazu.
ollama_manifold_pipeline.py
„Manifold": macht alle auf dem Ollama-Server installierten Modelle auf einmal verfügbar statt nur eines.
llama_cpp_pipeline.py
GGUF-Modelle direkt über die llama-cpp-python-Bibliothek fahren — ohne Ollama dazwischen.
mlx_manifold_pipeline.py
Apple-Silicon-Spezialist: Modelle über Apples MLX-Framework serven (schnell auf M-Chips).
