libretranslate_filter_pipeline.py

Dasselbe mit selbstgehostetem LibreTranslate statt LLM — deterministisch und schnell.

So nutzt du es

Anleitung lesen, Befehle ins Terminal kopieren. Ollama gibt es für macOS, Windows und Linux — Installation von ollama.com.

Im Detail

Diese Pipeline übernimmt dieselbe Aufgabe wie die LLM-basierte Übersetzungs-Filter-Pipeline, nutzt dafür aber LibreTranslate statt eines Sprachmodells. Der Vorteil: Übersetzungen sind deterministisch, also bei gleichem Text immer identisch, und laufen deutlich schneller sowie ressourcenschonender ab, weil kein großes LLM für eine vergleichsweise simple Aufgabe bemüht wird. Der Kompromiss ist geringere Flexibilität – LibreTranslate versteht Kontext, Ironie oder Fachjargon nicht so gut wie ein LLM und lässt sich nicht per Prompt anpassen. Für klar abgegrenzte Übersetzungsaufgaben in einer Filterkette, etwa automatische Ein- oder Ausgabeübersetzung im laufenden Chat, ist das aber oft die robustere und günstigere Lösung als die LLM-Variante.

Praxis-Tipp

Eigene LibreTranslate-Instanz per Docker aufsetzen und die Filter-Pipeline auf deren API-Endpunkt zeigen lassen, dann Quell- und Zielsprache in der Pipeline-Konfiguration festlegen.

Siehe auch

• llm_translate_filter_pipeline.py

Lizenz & Quelle

• Lizenz: MIT
• Quelle: open-webui/pipelines

Lade …