Llama 3.2

Metas Edge-Modelle: das 3B ist ein guter Mini-Chat-Assistent, das 1B taugt für Zusammenfassungen und einfache Aufgaben auf sehr schwacher Hardware.

So nutzt du es

Am einfachsten per Ollama: ollama pull <modellname> und dann ollama run <modellname> — oder komfortabel mit LM Studio (grafische Oberfläche, Modell-Suche eingebaut). Die Hardware-Angaben unten beziehen sich auf die übliche 4-Bit-Quantisierung (Q4).

Größen & Hardware

• Verfügbare Größen: 1B / 3B
• Empfohlene Hardware (Q4): 1B: 2 GB · 3B: 4 GB

Im Detail

Llama 3.2 ist Metas Antwort auf den Bedarf an sehr kleinen, aber brauchbaren Modellen für Geräte mit wenig RAM oder ohne GPU. Das 3B-Modell eignet sich als einfacher Chat-Assistent für Alltagsaufgaben wie Textumformulierung oder kurze Antworten, während das 1B-Modell vor allem für Zusammenfassungen, Klassifikation und einfache Extraktionsaufgaben gedacht ist – dort, wo Geschwindigkeit wichtiger ist als Tiefe. Im Vergleich zu 7B-Modellen fehlt Kontextverständnis und Konsistenz bei komplexeren Aufgaben, dafür läuft es auf Raspberry-Pi-artiger Hardware oder älteren Laptops flüssig. Sinnvoll für Entwickler, die Offline-Funktionen in Apps mit sehr begrenztem Speicher einbauen wollen.

Praxis-Tipp

Für Zusammenfassungen auf schwacher Hardware das 1B-Modell testen, z. B. mit „Fasse folgenden Text in drei Sätzen zusammen: …“.

Siehe auch

• Qwen 2.5
• Ministral
• Mistral 7B

Lizenz & Quelle

• Lizenz: Llama 3.2 Community License
• Quelle: Ollama
• Quelle: HF