KoboldCpp

Einzel-Binary auf llama.cpp-Basis mit eigener Web-GUI; beliebt in der Rollenspiel-/Story-Community (Charaktere, Welten, lange Kontexte), kann auch Bilder (Stable Diffusion) und TTS.

So nutzt du es

Tool über den verlinkten Anbieter installieren (Details und Systemvoraussetzungen im Repo). Diese Programme laden und betreiben lokale Modelle — sie sind der „Player“, das Modell ist die „Musik“.

Plattformen: macOS, Windows, Linux

Im Detail

KoboldCpp ist ein einzelnes, portables Programm ohne Installationsaufwand, das auf llama.cpp aufbaut und eine eigene Web-Oberfläche mitbringt statt sich auf externe Frontends zu verlassen. Der Fokus liegt klar auf interaktivem Storytelling: lange Kontexte, Charakterkarten und Weltenbau machen es zur ersten Wahl in der Rollenspiel- und Kreativ-Community, während generische Tools wie Ollama eher auf Chat und Automatisierung zielen. Zusätzlich lassen sich Stable-Diffusion-Bildgenerierung und Text-to-Speech direkt einbinden, sodass ein einziges Programm Text, Bild und Sprache abdeckt. Wer vor allem programmieren oder produktiv chatten will, ist mit llama.cpp direkt oder Open WebUI oft besser bedient.

Praxis-Tipp

Für lange Charaktergeschichten das integrierte Kontext-Management nutzen und ein Charakter-Karten-Preset laden, statt bei jedem Neustart den Systemprompt neu zu schreiben.

Siehe auch

• llama.cpp
• text-generation-webui (oobabooga)
• Ollama

Lizenz & Quelle

• Lizenz: AGPL-3.0 → nur Link
• Quelle: GitHub