ollama_manifold_pipeline.py

„Manifold“: macht alle auf dem Ollama-Server installierten Modelle auf einmal verfügbar statt nur eines.

So nutzt du es

Anleitung lesen, Befehle ins Terminal kopieren. Ollama gibt es für macOS, Windows und Linux — Installation von ollama.com.

Im Detail

Diese Pipeline löst ein konkretes Problem der einfachen ollama_pipeline.py: Statt nur ein einzelnes, fest konfiguriertes Modell durchzureichen, listet der “Manifold”-Modus alle auf dem Ollama-Server installierten Modelle automatisch als eigene Auswahlmöglichkeiten in Open WebUI auf. Wer mehrere Modelle per “ollama pull” installiert hat, muss so nicht für jedes eine eigene Pipeline-Instanz konfigurieren, sondern bekommt sie gebündelt zur Auswahl. Praktisch für Setups mit wechselndem Modellbedarf, etwa ein kleines Modell für schnelle Antworten und ein großes für komplexe Aufgaben, beide über dieselbe Pipeline erreichbar. Wer dauerhaft nur ein Modell nutzt, kommt mit der einfacheren ollama_pipeline.py aus.

Praxis-Tipp

Nach dem Einrichten einfach ein paar Modelle per “ollama pull mistral” und “ollama pull llama3.1” laden – sie erscheinen automatisch als separate Optionen im Open-WebUI-Dropdown.

Siehe auch

• ollama_pipeline.py
• mlx_manifold_pipeline.py

Lizenz & Quelle

• Lizenz: MIT
• Quelle: open-webui/pipelines

Lade …