Lokale LLMs · Foto: derekGavey, CC BY 2.0
Qwen 3 (Thinking)
Zuletzt aktualisiert:
Typ
Modell
Lizenz
Apache-2.0
Quelle
Anwendungsfeld
Lokale LLM-Modelle
Voraussetzungen
Keine besonderen — direkt loslegen.
Hybrid-Ansatz: dasselbe Modell kann mit und ohne Denk-Modus antworten (umschaltbar). Praktisch, wenn man nicht zwei Modelle vorhalten will; die „-Thinking-2507“-Checkpoints sind reine Denk-Varianten.
So nutzt du es
Am einfachsten per Ollama: ollama pull <modellname> und dann ollama run <modellname> — oder komfortabel mit LM Studio (grafische Oberfläche, Modell-Suche eingebaut). Die Hardware-Angaben unten beziehen sich auf die übliche 4-Bit-Quantisierung (Q4).
Größen & Hardware
- Verfügbare Größen: 0.6B–235B (alle Größen)
- Empfohlene Hardware (Q4): wie Qwen 3 oben
Im Detail
Qwen 3 (Thinking) bezeichnet zum einen die Hybrid-Fähigkeit der regulären Qwen-3-Modelle, per Umschalter zwischen schnellen Direktantworten und ausführlichem Nachdenken zu wechseln, zum anderen die separaten „-Thinking-2507“-Checkpoints, die ausschließlich im Denk-Modus arbeiten. Der Vorteil des Hybrid-Ansatzes: Man muss nicht zwei getrennte Modelle vorhalten und laden, sondern steuert das Verhalten pro Anfrage. Die reinen Thinking-Varianten sind in ihrem Modus konsequenter optimiert und liefern bei sehr anspruchsvollen Reasoning-Aufgaben tendenziell bessere Ergebnisse. Verfügbar über die gesamte Größenspanne von 0.6B bis 235B. Wer mit einer Installation sowohl schnelle Chats als auch tiefes Schlussfolgern abdecken will, fährt mit der Hybrid-Variante am praktischsten.
Praxis-Tipp
Den Thinking-Modus gezielt per Prompt-Flag (je nach Frontend etwa „/think“ bzw. „/no_think“) für Rätsel oder Code-Debugging aktivieren, für einfache Chats ausschalten.
Siehe auch
Lizenz & Quelle
Erfahrungen & Kommentare.
Funktioniert der Modell bei Ihnen? Tipps, Stolperfallen, Varianten — teilen Sie es mit der Community.
Lade Kommentare …
Passt dazu.
Llama 3.1
Der Meta-Klassiker mit 128K Kontext. 8B ist ein sehr solider Allrounder für schwächere Hardware, spricht ordentlich Deutsch.
Llama 3.3
Leistet laut Meta ungefähr so viel wie das riesige 405B-Modell — der Preis-Leistungs-Tipp, wenn man 64 GB (z. B. Mac Studio) hat.
Llama 4 (Scout / Maverick)
Metas MoE-Generation mit sehr großem Kontext und Bildverständnis. Für Heim-Hardware meist zu groß — eher für Server/Mac Studio 128 GB+.
