LibreChat
Eine quelloffene, selbst gehostete Chat-Oberfläche, die viele Modelle unter einem Dach vereint — Cloud-Anbieter und lokale Modelle nebeneinander, mit Nutzerverwaltung.
Eine quelloffene, selbst gehostete Chat-Oberfläche, die viele Modelle unter einem Dach vereint — Cloud-Anbieter und lokale Modelle nebeneinander, mit Nutzerverwaltung.
Für wen: Teams und Familien, die eine gemeinsame, private ChatGPT-Alternative auf dem eigenen Server betreiben wollen.
Installation
Repository klonen und per Docker starten (ausführliche Anleitung im Repo):
git clone https://github.com/danny-avila/LibreChat.git
cd LibreChat && cp .env.example .env
docker compose up -d
Danach http://localhost:3080 öffnen.
Erste Schritte
In der .env-Datei tragen Sie ein, welche Modelle verfügbar sein sollen — Cloud-Dienste per API-Key oder lokale Modelle über Ollama/LocalAI. Danach kann jedes Familien- oder Team-Mitglied ein eigenes Konto anlegen und im Browser chatten, während alle Daten auf Ihrem Server bleiben.
Plattformen: Docker
Im Detail
LibreChat ist eine quelloffene ChatGPT-Alternative zum Selbsthosten, die verschiedenste Modelle – von Cloud-Anbietern bis zu lokalen Ollama- oder llama.cpp-Instanzen – in einer einzigen, vertrauten Chat-Oberfläche bündelt. Der entscheidende Unterschied zu reinen lokalen Frontends wie Open WebUI ist die eingebaute Nutzerverwaltung mit Accounts, Rechten und Historie pro Person, was es zur naheliegenden Wahl für Teams oder Familien macht, die einen gemeinsamen KI-Zugang auf eigener Infrastruktur betreiben wollen. Der Betrieb läuft klassisch über Docker. Wer nur ein einzelnes lokales Modell für sich selbst nutzen will, ist mit schlankeren Tools wie Ollama oder KoboldCpp schneller startklar.
Praxis-Tipp
Wenn mehrere Personen Zugriff auf denselben Server bekommen sollen, direkt beim Setup Nutzerkonten und Rollen anlegen, statt später nachzurüsten.
Siehe auch
Lizenz & Quelle
Erfahrungen & Kommentare.
Funktioniert der Tool bei Ihnen? Tipps, Stolperfallen, Varianten — teilen Sie es mit der Community.
Lade Kommentare …
Passt dazu.
Ollama
Der De-facto-Standard. Modelle mit einem Befehl laden und ausführen (ollama run llama3.1), integrierte Modell-Library, OpenAI-kompatible API auf Port 11434. Basis für unzählige andere Tools.
LM Studio
Die komfortabelste Desktop-GUI: Modelle aus Hugging Face suchen, laden, chatten, Parameter per Regler, RAG per Drag-and-drop, lokaler OpenAI-API-Server. MLX-Support auf Apple Silicon.
llama.cpp
Die Engine unter fast allem (Ollama, LM Studio, …): C/C++-Inferenz für GGUF-Modelle auf CPU und jeder GPU (CUDA, Metal, Vulkan, ROCm). Wer direkt damit arbeitet, bekommt maximale Kontrolle und die neuesten Features zuerst.
