Jan

Offline-ChatGPT-Alternative als schicke Desktop-App: lokale Modelle (llama.cpp) und Cloud-Anbieter in einer Oberfläche, Erweiterungen, lokaler API-Server.

So nutzt du es

Tool über den verlinkten Anbieter installieren (Details und Systemvoraussetzungen im Repo). Diese Programme laden und betreiben lokale Modelle — sie sind der „Player“, das Modell ist die „Musik“.

Plattformen: macOS, Windows, Linux

Im Detail

Jan ist eine offene Desktop-App (Win/Mac/Linux) auf Basis von llama.cpp mit aufgeräumter ChatGPT-artiger Oberfläche, in der lokale GGUF-Modelle und Cloud-Anbieter wie OpenAI nebeneinander laufen. Ein integrierter Model-Hub, ein Erweiterungssystem und ein lokaler OpenAI-kompatibler API-Server machen es leicht, Jan auch als Backend für andere Tools zu nutzen. Im Vergleich zu LM Studio ist Jan vollständig quelloffen, im Vergleich zu Ollama bringt es von Haus aus eine grafische Oberfläche statt reinem Terminal-Betrieb mit. Für alle geeignet, die eine App für lokale und Cloud-Modelle ohne Kommandozeile wollen; für Feinsteuerung greifen erfahrene Nutzer eher zu llama.cpp direkt.

Praxis-Tipp

Ein Modell wie „Llama 3.1 8B Instruct“ direkt im Model Hub herunterladen und lokal starten, parallel per API-Key auch GPT-4 oder Claude einbinden.

Siehe auch

• LM Studio
• GPT4All
• Ollama

Lizenz & Quelle

• Lizenz: Repo ohne Standard-SPDX (AGPL-basiert) → nur Link
• Quelle: jan.ai
• Quelle: GitHub