scaffolds/filter_pipeline_scaffold.py

Leeres Gerüst für einen eigenen Filter (inlet/outlet).

So nutzt du es

Anleitung lesen, Befehle ins Terminal kopieren. Ollama gibt es für macOS, Windows und Linux — Installation von ollama.com.

Im Detail

Anders als das Pipe-Scaffold, das eine ganze Integration definiert, liefert dieses Scaffold nur die Grundstruktur für einen Filter – also eine Komponente, die Nachrichten vor dem Modell (inlet) oder danach (outlet) automatisch bearbeitet, etwa zum Filtern, Übersetzen oder Protokollieren. Es ist der richtige Ausgangspunkt, wenn man eine eigene Automatisierung bauen will, die nicht in die Kernlogik der Antwortgenerierung eingreift, sondern nur Ein- oder Ausgaben verändert. Praktische Referenzen dafür sind bestehende Filter wie die Rate-Limit- oder Übersetzungs-Pipeline, an denen man das übliche Muster ablesen kann, bevor man eigene Regeln implementiert.

Praxis-Tipp

Am Code von rate_limit_filter_pipeline.py orientieren, um zu sehen, wie inlet/outlet konkret implementiert werden, dann eigene Bedingungen (z. B. Wortfilter oder Logging) einbauen.

Siehe auch

• llm_translate_filter_pipeline.py

Lizenz & Quelle

• Lizenz: MIT
• Quelle: open-webui/pipelines

Lade …