Lokale LLMs · Foto: derekGavey, CC BY 2.0
scaffolds/example_pipeline_scaffold.py
Zuletzt aktualisiert:
Typ
Anleitung
Lizenz
MIT
Quelle
Anwendungsfeld
Ollama
Voraussetzungen
Keine besonderen — direkt loslegen.
Leeres Gerüst für eine eigene Pipe — hier eigene Ideen eintragen.
So nutzt du es
Anleitung lesen, Befehle ins Terminal kopieren. Ollama gibt es für macOS, Windows und Linux — Installation von ollama.com.
Im Detail
Dieses Scaffold ist ein leeres, lauffähiges Grundgerüst für eine eigene Pipe in Open WebUI, also für eigene Chat-Logik oder Modell-Integration, ohne bereits Funktionalität wie Ollama-Anbindung oder RAG mitzubringen. Es enthält die nötigen Grundstrukturen (Klassenaufbau, Konfigurationsfelder, die pipe-Methode), sodass man nicht bei null anfängt, sondern eigene Ideen direkt einbaut. Sinnvoll für alle, die eine bestehende Pipeline wie ollama_pipeline.py als Vorlage zu unspezifisch finden und stattdessen von einem minimalen, unkommentierten Startpunkt aus eine komplett eigene Integration bauen wollen, etwa die Anbindung an eine eigene API oder einen speziellen Workflow.
Praxis-Tipp
Vor dem Schreiben eigener Logik erst eine bestehende Pipeline wie ollama_pipeline.py querlesen, um zu sehen, wie Konfigurationsfelder (Valves) und Rückgabewerte konkret aussehen sollen.
Siehe auch
Lizenz & Quelle
- Lizenz: MIT
- Quelle: open-webui/pipelines
Inhalt ansehen (example_pipeline_scaffold.py)
Lade …
Erfahrungen & Kommentare.
Funktioniert der Anleitung bei Ihnen? Tipps, Stolperfallen, Varianten — teilen Sie es mit der Community.
Lade Kommentare …
Passt dazu.
ollama_pipeline.py
Minimalbeispiel: Anfragen an einen Ollama-Server durchreichen — der beste Startpunkt, um das Pipeline-Prinzip zu verstehen.
ollama_manifold_pipeline.py
„Manifold": macht alle auf dem Ollama-Server installierten Modelle auf einmal verfügbar statt nur eines.
llama_cpp_pipeline.py
GGUF-Modelle direkt über die llama-cpp-python-Bibliothek fahren — ohne Ollama dazwischen.
