Lokale LLMs · Foto: derekGavey, CC BY 2.0
ollama_manifold_pipeline.py
Zuletzt aktualisiert:
Typ
Anleitung
Lizenz
MIT
Quelle
Anwendungsfeld
Ollama
Voraussetzungen
Keine besonderen — direkt loslegen.
„Manifold“: macht alle auf dem Ollama-Server installierten Modelle auf einmal verfügbar statt nur eines.
So nutzt du es
Anleitung lesen, Befehle ins Terminal kopieren. Ollama gibt es für macOS, Windows und Linux — Installation von ollama.com.
Im Detail
Diese Pipeline verbindet Open WebUI nicht nur mit einem einzelnen Ollama-Modell, sondern als „Manifold“ gleich mit allen Modellen, die auf dem angebundenen Ollama-Server installiert sind. Statt für jedes Modell eine eigene Pipeline anzulegen, fragt das Skript die Modell-Liste des Servers ab und stellt sie automatisch als Auswahl in der Oberfläche bereit. Praktisch, wenn auf einem Ollama-Host mehrere Modelle parallel laufen (etwa ein kleines für schnelle Antworten, ein großes für komplexe Aufgaben) und alle ohne manuelle Pflege in Open WebUI erscheinen sollen. Wer dagegen dauerhaft nur ein festes Modell anbinden will, ist mit der einfacheren ollama_pipeline.py besser bedient.
Praxis-Tipp
Einfach die Ollama-Server-URL in der Pipeline-Konfiguration hinterlegen — neu installierte Modelle tauchen dann ohne Neustart der Pipeline automatisch in Open WebUI auf.
Siehe auch
Lizenz & Quelle
- Lizenz: MIT
- Quelle: open-webui/pipelines
Inhalt ansehen (ollama_manifold_pipeline.py)
Lade …
Erfahrungen & Kommentare.
Funktioniert der Anleitung bei Ihnen? Tipps, Stolperfallen, Varianten — teilen Sie es mit der Community.
Lade Kommentare …
Passt dazu.
ollama_pipeline.py
Minimalbeispiel: Anfragen an einen Ollama-Server durchreichen — der beste Startpunkt, um das Pipeline-Prinzip zu verstehen.
llama_cpp_pipeline.py
GGUF-Modelle direkt über die llama-cpp-python-Bibliothek fahren — ohne Ollama dazwischen.
mlx_manifold_pipeline.py
Apple-Silicon-Spezialist: Modelle über Apples MLX-Framework serven (schnell auf M-Chips).
