Lokale LLMs · Foto: derekGavey, CC BY 2.0
QwQ
Zuletzt aktualisiert:
Typ
Modell
Lizenz
Apache-2.0
Quelle
Anwendungsfeld
Lokale LLM-Modelle
Voraussetzungen
Keine besonderen — direkt loslegen.
Alibabas Reasoning-Spezialist: erreicht in Mathe/Logik-Benchmarks Werte nahe viel größerer Modelle. Komplett freie Lizenz.
So nutzt du es
Am einfachsten per Ollama: ollama pull <modellname> und dann ollama run <modellname> — oder komfortabel mit LM Studio (grafische Oberfläche, Modell-Suche eingebaut). Die Hardware-Angaben unten beziehen sich auf die übliche 4-Bit-Quantisierung (Q4).
Größen & Hardware
- Verfügbare Größen: 32B
- Empfohlene Hardware (Q4): 24–32 GB
Im Detail
QwQ ist Alibabas dediziertes Reasoning-Modell: Statt breites Allgemeinwissen zu optimieren, wurde es gezielt auf mehrstufiges Denken trainiert und erreicht dadurch in Mathematik- und Logik-Benchmarks Werte, die sonst deutlich größeren Modellen vorbehalten sind. Es eignet sich für Aufgaben, bei denen Schritt-für-Schritt-Herleitung zählt, etwa Textaufgaben, Beweise oder komplexe Programmierlogik, weniger für lockeren Chat oder Kreativtexte. Mit 32B Parametern und 24–32 GB Speicherbedarf läuft es auf guter Consumer-Hardware. Die komplett freie Lizenz macht es auch für kommerzielle Projekte ohne Einschränkungen nutzbar, ein Vorteil gegenüber manchen Konkurrenzmodellen mit restriktiveren Bedingungen.
Praxis-Tipp
Für Reasoning-Aufgaben genug Zeit und Tokens einplanen: QwQ denkt sichtbar in längeren Zwischenschritten, bevor es zur Antwort kommt, etwa bei „Löse Schritt für Schritt: [Textaufgabe]“.
Siehe auch
Lizenz & Quelle
Erfahrungen & Kommentare.
Funktioniert der Modell bei Ihnen? Tipps, Stolperfallen, Varianten — teilen Sie es mit der Community.
Lade Kommentare …
Passt dazu.
Llama 3.1
Der Meta-Klassiker mit 128K Kontext. 8B ist ein sehr solider Allrounder für schwächere Hardware, spricht ordentlich Deutsch.
Llama 3.3
Leistet laut Meta ungefähr so viel wie das riesige 405B-Modell — der Preis-Leistungs-Tipp, wenn man 64 GB (z. B. Mac Studio) hat.
Llama 4 (Scout / Maverick)
Metas MoE-Generation mit sehr großem Kontext und Bildverständnis. Für Heim-Hardware meist zu groß — eher für Server/Mac Studio 128 GB+.
