Llama 3.1
Der Meta-Klassiker mit 128K Kontext. 8B ist ein sehr solider Allrounder für schwächere Hardware, spricht ordentlich Deutsch.
Der Meta-Klassiker mit 128K Kontext. 8B ist ein sehr solider Allrounder für schwächere Hardware, spricht ordentlich Deutsch.
So nutzt du es
Am einfachsten per Ollama: ollama pull <modellname> und dann ollama run <modellname> — oder komfortabel mit LM Studio (grafische Oberfläche, Modell-Suche eingebaut). Die Hardware-Angaben unten beziehen sich auf die übliche 4-Bit-Quantisierung (Q4).
Größen & Hardware
- Verfügbare Größen: 8B / 70B / 405B
- Empfohlene Hardware (Q4): 8B: 8 GB · 70B: 48–64 GB
Benutzungsanleitung
Metas Allrounder — der sichere Einstieg in lokale KI.
Installation (mit Ollama):
ollama run llama3.1Lädt die 8B-Variante (~4,7 GB), braucht rund 8 GB RAM. Größere Varianten: llama3.1:70b (ab 48 GB RAM/VRAM).
Wofür gut: Alltag, Zusammenfassungen, E-Mails, solides Deutsch, brauchbarer Code. Sehr ausgewogen — wer nur ein Modell will, nimmt dieses.
Erster Test: „Fasse den folgenden Text in drei Stichpunkten zusammen: …“ — die Antwortqualität zeigt sofort, ob die Größe zur Hardware passt (stockt es stark, kleinere Variante wählen).
Im Detail
Llama 3.1 ist Metas etablierter Allrounder und dank 128K Kontextfenster auch für längere Dokumente oder Gespräche geeignet. Die 8B-Variante ist der Sweet Spot für alle mit begrenzter Hardware: Sie läuft schon mit rund 8 GB, bleibt dabei aber überraschend fähig für Alltags-Chat, Zusammenfassungen und einfachere Assistenzaufgaben, inklusive brauchbarem Deutsch. Die 70B- und 405B-Varianten skalieren die Qualität deutlich nach oben, brauchen dafür aber ernsthafte Hardware. Im Vergleich zu neueren Modellen wie Llama 3.3 oder Qwen 3 ist 3.1 inzwischen nicht mehr die leistungsstärkste Wahl, aber als bewährter, breit unterstützter Standard weiterhin eine sichere Grundlage für den Einstieg.
Praxis-Tipp
Auf Hardware mit 8 GB RAM/VRAM zum Start die 8B-Quantisierung wählen und erst bei spürbaren Qualitätsproblemen auf 70B mit entsprechend mehr Speicher wechseln.
Siehe auch
Lizenz & Quelle
Erfahrungen & Kommentare.
Funktioniert der Modell bei Ihnen? Tipps, Stolperfallen, Varianten — teilen Sie es mit der Community.
Lade Kommentare …
Passt dazu.
Llama 3.3
Leistet laut Meta ungefähr so viel wie das riesige 405B-Modell — der Preis-Leistungs-Tipp, wenn man 64 GB (z. B. Mac Studio) hat.
Llama 4 (Scout / Maverick)
Metas MoE-Generation mit sehr großem Kontext und Bildverständnis. Für Heim-Hardware meist zu groß — eher für Server/Mac Studio 128 GB+.
Qwen 2.5
Alibabas Arbeitspferd: stark in vielen Sprachen (auch Deutsch), Mathe und strukturierten Ausgaben (JSON). Die Apache-Größen sind auch kommerziell völlig frei.