scaffolds/filter_pipeline_scaffold.py

Leeres Gerüst für einen eigenen Filter (inlet/outlet).

So nutzt du es

Anleitung lesen, Befehle ins Terminal kopieren. Ollama gibt es für macOS, Windows und Linux — Installation von ollama.com.

Im Detail

Dieses Scaffold liefert das leere Grundgerüst für einen eigenen Filter in Open WebUI, also für Logik, die Ein- oder Ausgaben automatisch bearbeitet (inlet/outlet), statt selbst ein Modell bereitzustellen. Es enthält die Grundstruktur mit den beiden Methoden, in die eigene Regeln eingetragen werden, etwa um Anfragen zu protokollieren, zu filtern, umzuschreiben oder wie bei rate_limit_filter_pipeline.py zu begrenzen. Sinnvoll für alle, die eine eigene Filterlogik brauchen, die es unter den fertigen Beispielen noch nicht gibt, und lieber von einem minimalen Startpunkt aus arbeiten als ein bestehendes Beispiel umzubauen.

Praxis-Tipp

Bestehende Filter wie llm_translate_filter_pipeline.py oder dynamic_ollama_vision_filter_pipeline.py als Referenz danebenlegen, um zu sehen, wie inlet und outlet typischerweise zusammenspielen, bevor man die eigene Logik einträgt.

Siehe auch

• dynamic_ollama_vision_filter_pipeline.py
• llm_translate_filter_pipeline.py

Lizenz & Quelle

• Lizenz: MIT
• Quelle: open-webui/pipelines

Lade …