DeepSeek-R1-Distill

R1-Denkfähigkeit in Alltagsgrößen destilliert (auf Qwen-/Llama-Basis). Das 14B ist der Sweet Spot für 16-GB-Rechner, das 32B für 24-GB-GPUs.

So nutzt du es

Am einfachsten per Ollama: ollama pull <modellname> und dann ollama run <modellname> — oder komfortabel mit LM Studio (grafische Oberfläche, Modell-Suche eingebaut). Die Hardware-Angaben unten beziehen sich auf die übliche 4-Bit-Quantisierung (Q4).

Größen & Hardware

• Verfügbare Größen: 1.5 / 7 / 8 / 14 / 32 / 70B
• Empfohlene Hardware (Q4): 7B: 8 GB · 14B: 16 GB · 32B: 24–32 GB

Im Detail

Die Distill-Reihe destilliert R1s Denkfähigkeit auf Qwen- und Llama-Basismodelle in alltagstauglichen Größen von 1,5B bis 70B. Das 14B-Modell (16 GB RAM) gilt als Sweet Spot für normale Rechner, das 32B (24–32 GB) für starke Consumer-GPUs. Der Vorteil gegenüber dem 671B-Original: Reasoning-Qualität, die tatsächlich lokal läuft, statt nur auf Servern. Für wen: alle, die Schritt-für-Schritt-Herleitungen bei Mathe-, Logik- oder Coding-Aufgaben wollen, aber keine Server-Hardware haben. Die kleinen Varianten (1,5B/7B) sind spürbar schwächer – erst ab 14B wird die Denkqualität wirklich überzeugend.

Praxis-Tipp

Auf einem 16-GB-Rechner das 14B-Modell wählen und bei komplexen Aufgaben explizit um eine Schritt-für-Schritt-Herleitung bitten – das ist die eigentliche Stärke der Distill-Reihe.

Siehe auch

• Qwen 3

Lizenz & Quelle

• Lizenz: MIT (Basis-Lizenzen von Qwen/Llama beachten)
• Quelle: Ollama
• Quelle: HF