Qwen 3 (klein)

Die kleinen Qwen-3-Varianten können sogar den Thinking-Modus — ein 1.7B-Modell, das „nachdenkt“, ist für Edge-Anwendungen bemerkenswert. Völlig freie Lizenz.

So nutzt du es

Am einfachsten per Ollama: ollama pull <modellname> und dann ollama run <modellname> — oder komfortabel mit LM Studio (grafische Oberfläche, Modell-Suche eingebaut). Die Hardware-Angaben unten beziehen sich auf die übliche 4-Bit-Quantisierung (Q4).

Größen & Hardware

• Verfügbare Größen: 0.6B / 1.7B / 4B
• Empfohlene Hardware (Q4): 0.6B: <1 GB · 4B: 4–5 GB

Im Detail

Die kleinen Varianten von Qwen 3 (0.6B, 1.7B, 4B) sind für Edge-Geräte und ressourcenarme Umgebungen gedacht, verzichten aber – anders als viele andere Mini-Modelle – nicht auf den Thinking-Modus. Selbst das 1.7B-Modell kann also vor der Antwort strukturiert nachdenken, was bei kleinen Modellen sonst kaum verfügbar ist und die Qualität bei komplexeren Aufgaben spürbar hebt. Mit unter 1 GB (0.6B) bis 5 GB (4B) Speicherbedarf laufen sie auf schwacher Hardware bis hin zu Smartphones. Die Lizenz ist uneingeschränkt frei nutzbar. Wer ein Sprachmodell auf einem Raspberry Pi, in einer Embedded-Anwendung oder als schnelle lokale Fallback-Lösung braucht, findet hier eine der wenigen Optionen mit echtem Reasoning in dieser Größenklasse.

Praxis-Tipp

Das 1.7B-Modell mit aktiviertem Thinking-Modus für einfache Logikaufgaben auf einem Raspberry Pi testen, etwa „Löse Schritt für Schritt: Wenn A doppelt so alt ist wie B …“.

Siehe auch

• Qwen 3
• Ministral

Lizenz & Quelle

• Lizenz: Apache-2.0
• Quelle: Ollama
• Quelle: HF