function_calling_filter_pipeline.py

Tool-/Function-Calling nachrüsten: LLM darf Python-Funktionen aufrufen (Beispiel: Wetter, Rechner).

So nutzt du es

Anleitung lesen, Befehle ins Terminal kopieren. Ollama gibt es für macOS, Windows und Linux — Installation von ollama.com.

Im Detail

Nicht jedes lokale Modell oder jede Oberfläche unterstützt natives Function Calling. Diese Pipeline setzt genau hier an: Sie erlaubt es, dem LLM Python-Funktionen als “Werkzeuge” verfügbar zu machen, die es bei Bedarf selbst aufruft — etwa um aktuelle Wetterdaten abzurufen oder eine Rechenaufgabe exakt statt geraten zu lösen. Als Beispielimplementierung zeigt sie das Grundmuster, das sich auf eigene Funktionen wie Datenbankabfragen oder API-Calls übertragen lässt. Sinnvoll für alle, die ihren Chatbot über reines Textgenerieren hinaus mit echten Fähigkeiten ausstatten wollen, müssen aber Zeit ins Anpassen der Beispielfunktionen investieren.

Praxis-Tipp

Als Ausgangspunkt eine eigene Funktion (z. B. Datenbankabfrage) nach dem Muster der Wetter-Funktion ergänzen, statt komplett neu zu schreiben.

Siehe auch

• dynamic_ollama_vision_filter_pipeline.py
• text_to_sql_pipeline.py

Lizenz & Quelle

• Lizenz: MIT
• Quelle: open-webui/pipelines

Lade …