machichdigital

Lokale LLMs · Foto: derekGavey, CC BY 2.0

ToolRunner-ToolsLizenz: Custom (Open-WebUI-Lizenz mit Branding-Klausel) → nur Link

Open WebUI

Zuletzt aktualisiert:

⧉ –× kopiert⬇ –× heruntergeladenBewertung:

Typ

Tool

Lizenz

Custom (Open-WebUI-Lizenz mit Branding-Klausel) → nur Link

Anwendungsfeld

Runner-Tools

Voraussetzungen

Keine besonderen — direkt loslegen.

Die beliebteste Web-Oberfläche für Ollama & OpenAI-kompatible APIs: Multi-User mit Rechten, RAG, Websuche, Bild-Generierung, Pipelines-Plugins. Perfekt als „Familien-/Team-ChatGPT“ auf dem Heimserver. (Die zugehörigen Pipelines sind MIT → kuratierte Beispiele in ../Ollama/.)

So nutzt du es

Tool über den verlinkten Anbieter installieren (Details und Systemvoraussetzungen im Repo). Diese Programme laden und betreiben lokale Modelle — sie sind der „Player“, das Modell ist die „Musik“.

Plattformen: Docker, pip (Server mit Browser-UI)

Im Detail

Open WebUI ist die verbreitetste grafische Oberfläche für Ollama und andere OpenAI-kompatible Server. Anders als ein reines Chat-Fenster bringt es Multi-User-Verwaltung mit Rechtestufen, RAG über eigene Dokumente, Websuche-Anbindung, Bildgenerierung und ein Plugin-System namens Pipelines mit, über das sich Funktionen wie Übersetzung oder alternative Backends nachrüsten lassen. Damit eignet es sich besonders für alle, die auf einem Heimserver oder im Team ein „eigenes ChatGPT“ mit mehreren Nutzern und Zugriffsrechten betreiben wollen, statt nur einen einzelnen Chat für sich selbst. Der Funktionsumfang bedeutet aber auch mehr Konfigurationsaufwand als bei schlankeren Oberflächen wie Jan oder GPT4All. Die mitgelieferten Beispiel-Pipelines stehen unter MIT-Lizenz.

Praxis-Tipp

Nach der Installation zuerst unter Einstellungen die Rechteverwaltung konfigurieren, bevor Sie weitere Nutzer einladen — sonst haben standardmäßig alle Zugriff auf alle Modelle.

Siehe auch

Lizenz & Quelle

  • Lizenz: Custom (Open-WebUI-Lizenz mit Branding-Klausel) → nur Link
  • Quelle: GitHub
  • Quelle: Docs

Erfahrungen & Kommentare.

Funktioniert der Tool bei Ihnen? Tipps, Stolperfallen, Varianten — teilen Sie es mit der Community.

Lade Kommentare …

Ihre IP-Adresse wird zum Schutz vor Missbrauch gespeichert und nach 14 Tagen automatisch entfernt (Datenschutz).

Passt dazu.

Ollama

Der De-facto-Standard. Modelle mit einem Befehl laden und ausführen (ollama run llama3.1), integrierte Modell-Library, OpenAI-kompatible API auf Port 11434. Basis für unzählige andere Tools.

MIT♥ –⧉ –

LM Studio

Die komfortabelste Desktop-GUI: Modelle aus Hugging Face suchen, laden, chatten, Parameter per Regler, RAG per Drag-and-drop, lokaler OpenAI-API-Server. MLX-Support auf Apple Silicon.

Proprietär (App kostenlos, auch für Firmen; SDK/CLI: MIT)♥ –⧉ –

llama.cpp

Die Engine unter fast allem (Ollama, LM Studio, …): C/C++-Inferenz für GGUF-Modelle auf CPU und jeder GPU (CUDA, Metal, Vulkan, ROCm). Wer direkt damit arbeitet, bekommt maximale Kontrolle und die neuesten Features zuerst.

MIT♥ –⧉ –