Lokale LLMs · Foto: derekGavey, CC BY 2.0
SmolLM2 / SmolLM3
Zuletzt aktualisiert:
Typ
Modell
Lizenz
Apache-2.0
Quelle
Anwendungsfeld
Lokale LLM-Modelle
Voraussetzungen
Keine besonderen — direkt loslegen.
Hugging Faces komplett offene Mini-Reihe (inkl. Trainingsdaten dokumentiert). SmolLM3 (3B) ist mehrsprachig und kann sogar Reasoning — ideal zum Lernen und Experimentieren.
So nutzt du es
Am einfachsten per Ollama: ollama pull <modellname> und dann ollama run <modellname> — oder komfortabel mit LM Studio (grafische Oberfläche, Modell-Suche eingebaut). Die Hardware-Angaben unten beziehen sich auf die übliche 4-Bit-Quantisierung (Q4).
Größen & Hardware
- Verfügbare Größen: 135M / 360M / 1.7B / 3B
- Empfohlene Hardware (Q4): <1–4 GB
Im Detail
SmolLM2 und SmolLM3 sind Hugging Faces Antwort auf die Frage, wie klein ein brauchbares Sprachmodell sein kann – und zwar vollständig transparent: Trainingsdaten, Rezepte und Auswertungen sind offengelegt, nicht nur die Gewichte. Die Reihe reicht von 135M bis 3B Parametern. Besonders SmolLM3 sticht heraus: Es ist mehrsprachig, unterstützt einen Reasoning-Modus und läuft trotzdem noch auf bescheidener Hardware unter 4 GB. Für Produktionsanwendungen sind größere Modelle wie Qwen 3 oder Llama 3.1 meist die bessere Wahl, aber zum Verstehen, wie Trainingsdaten Modellverhalten prägen, oder für Experimente auf Raspberry Pi & Co. ist die SmolLM-Reihe eine der ehrlichsten Optionen am Markt.
Praxis-Tipp
Für Reasoning-Tests SmolLM3 mit einer mehrschrittigen Matheaufgabe anstoßen und im Reasoning-Modus die Zwischenschritte mitverfolgen.
Siehe auch
Lizenz & Quelle
Erfahrungen & Kommentare.
Funktioniert der Modell bei Ihnen? Tipps, Stolperfallen, Varianten — teilen Sie es mit der Community.
Lade Kommentare …
Passt dazu.
Llama 3.1
Der Meta-Klassiker mit 128K Kontext. 8B ist ein sehr solider Allrounder für schwächere Hardware, spricht ordentlich Deutsch.
Llama 3.3
Leistet laut Meta ungefähr so viel wie das riesige 405B-Modell — der Preis-Leistungs-Tipp, wenn man 64 GB (z. B. Mac Studio) hat.
Llama 4 (Scout / Maverick)
Metas MoE-Generation mit sehr großem Kontext und Bildverständnis. Für Heim-Hardware meist zu groß — eher für Server/Mac Studio 128 GB+.
