machichdigital

Lokale LLMs · Foto: derekGavey, CC BY 2.0

ToolRunner-ToolsLizenz: MIT

LibreChat

Zuletzt aktualisiert:

⧉ –× kopiert⬇ –× heruntergeladenBewertung:

Typ

Tool

Lizenz

MIT

Anwendungsfeld

Runner-Tools

Teams und Familien, die eine gemeinsame, private ChatGPT-Alternative auf dem eigenen Server betreiben wollen.

Voraussetzungen

Keine besonderen — direkt loslegen.

Eine quelloffene, selbst gehostete Chat-Oberfläche, die viele Modelle unter einem Dach vereint — Cloud-Anbieter und lokale Modelle nebeneinander, mit Nutzerverwaltung.

Für wen: Teams und Familien, die eine gemeinsame, private ChatGPT-Alternative auf dem eigenen Server betreiben wollen.

Installation

Repository klonen und per Docker starten (ausführliche Anleitung im Repo):

git clone https://github.com/danny-avila/LibreChat.git
cd LibreChat && cp .env.example .env
docker compose up -d

Danach http://localhost:3080 öffnen.

Erste Schritte

In der .env-Datei tragen Sie ein, welche Modelle verfügbar sein sollen — Cloud-Dienste per API-Key oder lokale Modelle über Ollama/LocalAI. Danach kann jedes Familien- oder Team-Mitglied ein eigenes Konto anlegen und im Browser chatten, während alle Daten auf Ihrem Server bleiben.

Plattformen: Docker

Im Detail

LibreChat ist eine Open-Source-Chat-Oberfläche, die sich selbst hosten lässt und mehrere Modellanbieter – von OpenAI und Anthropic bis zu lokal laufenden Modellen – unter einer gemeinsamen Oberfläche vereint. Anders als reine Einzelplatz-Tools bringt LibreChat eine echte Nutzerverwaltung mit, sodass mehrere Personen mit eigenen Logins, Konversationsverläufen und Einstellungen dieselbe Instanz teilen können. Das macht es besonders für Teams oder Familien interessant, die eine gemeinsame, private ChatGPT-Alternative auf dem eigenen Server betreiben wollen, statt jedem Mitglied einen eigenen API-Zugang zu geben. Der Betrieb läuft über Docker und erfordert etwas Server-Know-how; wer nur eine einzelne, einfache Chat-Oberfläche für sich selbst sucht, ist mit Open WebUI oder Jan oft schneller startklar.

Praxis-Tipp

LibreChat per Docker Compose aufsetzen und mehrere API-Keys (z. B. OpenAI und ein lokales Ollama) gleichzeitig hinterlegen, damit jeder Nutzer im Team frei zwischen Modellen wählen kann.

Siehe auch

Lizenz & Quelle

Erfahrungen & Kommentare.

Funktioniert der Tool bei Ihnen? Tipps, Stolperfallen, Varianten — teilen Sie es mit der Community.

Lade Kommentare …

Ihre IP-Adresse wird zum Schutz vor Missbrauch gespeichert und nach 14 Tagen automatisch entfernt (Datenschutz).

Passt dazu.

Ollama

Der De-facto-Standard. Modelle mit einem Befehl laden und ausführen (ollama run llama3.1), integrierte Modell-Library, OpenAI-kompatible API auf Port 11434. Basis für unzählige andere Tools.

MIT♥ –⧉ –

LM Studio

Die komfortabelste Desktop-GUI: Modelle aus Hugging Face suchen, laden, chatten, Parameter per Regler, RAG per Drag-and-drop, lokaler OpenAI-API-Server. MLX-Support auf Apple Silicon.

Proprietär (App kostenlos, auch für Firmen; SDK/CLI: MIT)♥ –⧉ –

llama.cpp

Die Engine unter fast allem (Ollama, LM Studio, …): C/C++-Inferenz für GGUF-Modelle auf CPU und jeder GPU (CUDA, Metal, Vulkan, ROCm). Wer direkt damit arbeitet, bekommt maximale Kontrolle und die neuesten Features zuerst.

MIT♥ –⧉ –