Lokale LLMs · Foto: derekGavey, CC BY 2.0
DeepSeek-R1-Distill
Zuletzt aktualisiert:
Typ
Modell
Lizenz
MIT (Basis-Lizenzen von Qwen/Llama beachten)
Quelle
Anwendungsfeld
Lokale LLM-Modelle
Voraussetzungen
- Mindestens 8 GB Speicher für 7B, 16 GB für 14B oder 24-32 GB VRAM für 32B
Einordnung
Die Modelle laufen auf gängiger Hardware, benötigen aber je nach Größe deutlich mehr RAM oder VRAM.
R1-Denkfähigkeit in Alltagsgrößen destilliert (auf Qwen-/Llama-Basis). Das 14B ist der Sweet Spot für 16-GB-Rechner, das 32B für 24-GB-GPUs.
Größen & Hardware
- Verfügbare Größen: 1.5 / 7 / 8 / 14 / 32 / 70B
- Empfohlene Hardware (Q4): 7B: 8 GB · 14B: 16 GB · 32B: 24–32 GB
Im Detail
Die Distill-Reihe presst das Denkverhalten von DeepSeek-R1 in handelsübliche Modellgrößen von 1,5 bis 70 Milliarden Parametern, aufgesetzt auf bewährte Qwen- und Llama-Basismodelle. Damit bekommen Sie sichtbare Zwischenschritte beim Lösen von Matheaufgaben, Logikrätseln oder Code-Problemen, ohne die Serverkosten des Originals. Die 14B-Variante ist der praktische Sweet Spot für Rechner mit 16 GB Arbeitsspeicher, die 32B-Version nutzt 24–32 GB VRAM voll aus und liegt qualitativ spürbar näher am Original. Wer nur gelegentlich Reasoning-Aufgaben hat, ist mit 7B/8B schon gut bedient, verliert aber etwas Genauigkeit bei komplexeren Denkketten.
Schritt für Schritt
- Modellgröße nach vorhandenem RAM oder VRAM wählen (14B für 16 GB, 32B für 24-32 GB VRAM, 7B/8B für weniger Speicher)
- Modell lokal laden
- Bei Mathe-, Logik- oder Code-Aufgaben die sichtbaren Zwischenschritte im Chat nachvollziehen
- Ergebnisse bei wichtigen Aufgaben gegenprüfen, da kleinere Varianten an Genauigkeit einbüßen
- Bei bestehendem Qwen- oder Llama-Workflow die passende Basis der Distill-Variante berücksichtigen
Beispiel aus der Praxis
Auf einem Laptop mit 16 GB Arbeitsspeicher löst die 14B-Variante eine mehrstufige Textaufgabe und zeigt dabei im Chat einzelne Rechenschritte, sodass nachvollziehbar bleibt, wie das Modell zur Lösung kommt.
Praxis-Tipp
Starten Sie mit der 14B-Version und aktivieren Sie in Ihrer Oberfläche die Anzeige der Denkschritte (
Stolperfallen
Die kleinen Varianten mit 7B oder 8B wirken oberflächlich wie das große Modell, liefern bei komplexeren Denkketten aber ungenauere Ergebnisse. Wichtige Ergebnisse sollten deshalb geprüft statt blind übernommen werden.
Siehe auch
Lizenz & Quelle
Häufige Fragen.
Welche Größe passt zu meinem Rechner?
14B ist der praktische Sweet Spot für 16 GB Arbeitsspeicher, 32B nutzt 24-32 GB VRAM voll aus.
Wie nah kommt das an das Original DeepSeek-R1?
Die 32B-Variante liegt qualitativ spürbar näher am Original als die kleineren Größen.
Reicht die kleinste Variante für gelegentliche Aufgaben?
7B/8B sind für gelegentliche Reasoning-Aufgaben gut geeignet, verlieren aber etwas Genauigkeit bei komplexeren Denkketten.
Erfahrungen & Kommentare.
Funktioniert der Modell bei Ihnen? Tipps, Stolperfallen, Varianten — teilen Sie es mit der Community.
Lade Kommentare …
Passt dazu.
Llama 3.1
Der Meta-Klassiker mit 128K Kontext. 8B ist ein sehr solider Allrounder für schwächere Hardware, spricht ordentlich Deutsch.
Llama 3.3
Leistet laut Meta ungefähr so viel wie das riesige 405B-Modell — der Preis-Leistungs-Tipp, wenn man 64 GB (z. B. Mac Studio) hat.
Llama 4 (Scout / Maverick)
Metas MoE-Generation mit sehr großem Kontext und Bildverständnis. Für Heim-Hardware meist zu groß — eher für Server/Mac Studio 128 GB+.