Lokale LLMs · Foto: derekGavey, CC BY 2.0
LibreChat
Zuletzt aktualisiert:
Typ
Tool
Lizenz
MIT
Quelle
Anwendungsfeld
Runner-Tools
Teams und Familien, die eine gemeinsame, private ChatGPT-Alternative auf dem eigenen Server betreiben wollen.
Voraussetzungen
Keine besonderen — direkt loslegen.
Eine quelloffene, selbst gehostete Chat-Oberfläche, die viele Modelle unter einem Dach vereint — Cloud-Anbieter und lokale Modelle nebeneinander, mit Nutzerverwaltung.
Für wen: Teams und Familien, die eine gemeinsame, private ChatGPT-Alternative auf dem eigenen Server betreiben wollen.
Installation
Repository klonen und per Docker starten (ausführliche Anleitung im Repo):
git clone https://github.com/danny-avila/LibreChat.git
cd LibreChat && cp .env.example .env
docker compose up -d
Danach http://localhost:3080 öffnen.
Erste Schritte
In der .env-Datei tragen Sie ein, welche Modelle verfügbar sein sollen — Cloud-Dienste per API-Key oder lokale Modelle über Ollama/LocalAI. Danach kann jedes Familien- oder Team-Mitglied ein eigenes Konto anlegen und im Browser chatten, während alle Daten auf Ihrem Server bleiben.
Plattformen: Docker
Im Detail
LibreChat ist eine Open-Source-Chat-Oberfläche, die sich selbst hosten lässt und mehrere Modellanbieter – von OpenAI und Anthropic bis zu lokal laufenden Modellen – unter einer gemeinsamen Oberfläche vereint. Anders als reine Einzelplatz-Tools bringt LibreChat eine echte Nutzerverwaltung mit, sodass mehrere Personen mit eigenen Logins, Konversationsverläufen und Einstellungen dieselbe Instanz teilen können. Das macht es besonders für Teams oder Familien interessant, die eine gemeinsame, private ChatGPT-Alternative auf dem eigenen Server betreiben wollen, statt jedem Mitglied einen eigenen API-Zugang zu geben. Der Betrieb läuft über Docker und erfordert etwas Server-Know-how; wer nur eine einzelne, einfache Chat-Oberfläche für sich selbst sucht, ist mit Open WebUI oder Jan oft schneller startklar.
Praxis-Tipp
LibreChat per Docker Compose aufsetzen und mehrere API-Keys (z. B. OpenAI und ein lokales Ollama) gleichzeitig hinterlegen, damit jeder Nutzer im Team frei zwischen Modellen wählen kann.
Siehe auch
Lizenz & Quelle
Erfahrungen & Kommentare.
Funktioniert der Tool bei Ihnen? Tipps, Stolperfallen, Varianten — teilen Sie es mit der Community.
Lade Kommentare …
Passt dazu.
Ollama
Der De-facto-Standard. Modelle mit einem Befehl laden und ausführen (ollama run llama3.1), integrierte Modell-Library, OpenAI-kompatible API auf Port 11434. Basis für unzählige andere Tools.
LM Studio
Die komfortabelste Desktop-GUI: Modelle aus Hugging Face suchen, laden, chatten, Parameter per Regler, RAG per Drag-and-drop, lokaler OpenAI-API-Server. MLX-Support auf Apple Silicon.
llama.cpp
Die Engine unter fast allem (Ollama, LM Studio, …): C/C++-Inferenz für GGUF-Modelle auf CPU und jeder GPU (CUDA, Metal, Vulkan, ROCm). Wer direkt damit arbeitet, bekommt maximale Kontrolle und die neuesten Features zuerst.
