DeepSeek-V3 / V3.x
Eines der stärksten offenen Modelle überhaupt — GPT-4-Klasse. Lokal nur mit Server-Hardware realistisch; für Normalos sind die R1-Distills (s. Reasoning) der Weg.
Eines der stärksten offenen Modelle überhaupt — GPT-4-Klasse. Lokal nur mit Server-Hardware realistisch; für Normalos sind die R1-Distills (s. Reasoning) der Weg.
So nutzt du es
Am einfachsten per Ollama: ollama pull <modellname> und dann ollama run <modellname> — oder komfortabel mit LM Studio (grafische Oberfläche, Modell-Suche eingebaut). Die Hardware-Angaben unten beziehen sich auf die übliche 4-Bit-Quantisierung (Q4).
Größen & Hardware
- Verfügbare Größen: 671B MoE (37B aktiv)
- Empfohlene Hardware (Q4): Nur Server/Cluster (mehrere 100 GB)
Benutzungsanleitung
DeepSeeks großes Allzweck-Modell — Cloud-Klasse als offene Gewichte, aber nur für Server-Hardware.
Realistische Einordnung: Mit über 600 Mrd. Parametern (MoE) läuft V3 NICHT auf normalen PCs — es braucht Multi-GPU-Server. Für Zuhause sind die R1-Distill- oder Qwen-Varianten der praktische Weg an DeepSeek-Qualität.
Wer Server-Hardware hat: Betrieb üblicherweise über vLLM oder llama.cpp mit mehreren 80-GB-GPUs; Details in den verlinkten Quellen.
Für alle anderen: ollama run deepseek-r1:14b bringt einen ordentlichen Teil der Qualität auf 16-GB-Rechner.
Im Detail
DeepSeek-V3 ist eines der leistungsfähigsten offenen Sprachmodelle weltweit und spielt in der Liga von GPT-4. Die Mixture-of-Experts-Architektur aktiviert von 671 Milliarden Parametern nur rund 37 Milliarden pro Anfrage, was die Inferenz effizienter macht als bei einem dichten Modell gleicher Größe — trotzdem braucht man mehrere hundert GB VRAM oder RAM, also einen Server-Cluster. Für Privatanwender mit normaler Hardware ist es daher meist keine Option. Wer die Denkfähigkeiten von DeepSeek trotzdem lokal nutzen will, greift besser zu den kleineren R1-Distill-Varianten, die auf gängigen Modellen wie Llama oder Qwen basieren und auf Consumer-GPUs laufen.
Praxis-Tipp
Wer keinen eigenen Server hat, testet DeepSeek-V3 über eine API oder Cloud-Hosting-Anbieter, statt zu versuchen, es lokal zu quantisieren.
Siehe auch
Lizenz & Quelle
Erfahrungen & Kommentare.
Funktioniert der Modell bei Ihnen? Tipps, Stolperfallen, Varianten — teilen Sie es mit der Community.
Lade Kommentare …
Passt dazu.
Llama 3.1
Der Meta-Klassiker mit 128K Kontext. 8B ist ein sehr solider Allrounder für schwächere Hardware, spricht ordentlich Deutsch.
Llama 3.3
Leistet laut Meta ungefähr so viel wie das riesige 405B-Modell — der Preis-Leistungs-Tipp, wenn man 64 GB (z. B. Mac Studio) hat.
Llama 4 (Scout / Maverick)
Metas MoE-Generation mit sehr großem Kontext und Bildverständnis. Für Heim-Hardware meist zu groß — eher für Server/Mac Studio 128 GB+.