Mistral NeMo

Gemeinsam mit NVIDIA entwickelt, 128K Kontext, ausdrücklich mehrsprachig (gutes Deutsch). Guter Mittelweg zwischen 7B und 24B.

So nutzt du es

Am einfachsten per Ollama: ollama pull <modellname> und dann ollama run <modellname> — oder komfortabel mit LM Studio (grafische Oberfläche, Modell-Suche eingebaut). Die Hardware-Angaben unten beziehen sich auf die übliche 4-Bit-Quantisierung (Q4).

Größen & Hardware

• Verfügbare Größen: 12B
• Empfohlene Hardware (Q4): 12–16 GB

Benutzungsanleitung

Gemeinsam mit Nvidia entwickeltes 12B-Modell — der beste Mistral-Einstieg für 16-GB-Rechner.

Installation:

ollama run mistral-nemo

~7 GB Download, ab 12–16 GB RAM angenehm.

Wofür gut: Lange Kontexte (128k), sauberes Deutsch, Alltag + leichte Analyse. Apache-2.0.

Erster Test: ein längeres Dokument einfügen und gezielt Fragen dazu stellen — NeMo hält den Faden auch über viele Seiten.

Im Detail

Mistral NeMo wurde gemeinsam mit NVIDIA entwickelt und bietet mit 12B Parametern einen Mittelweg zwischen kompakten 7B-Modellen und größeren 24B-Varianten. Herausstechend ist der 128K-Kontext, mit dem sich lange Dokumente oder ausgedehnte Chatverläufe in einem Stück verarbeiten lassen, sowie eine explizit mehrsprachige Auslegung inklusive gutem Deutsch. Braucht 12–16 GB Speicher. Für wen lohnt es sich: alle, die mehr Kontextlänge oder Mehrsprachigkeit brauchen als ein reines 7B-Modell bietet, aber nicht gleich die Hardware-Anforderungen eines 24B-Modells stemmen wollen.

Praxis-Tipp

Für lange Dokumente nutzen, z. B. „Fasse dieses 80-seitige PDF zusammen und beantworte Detailfragen dazu“ – der 128K-Kontext verarbeitet es in einem Rutsch.

Siehe auch

• Mistral 7B
• Mistral Small 3.x

Lizenz & Quelle

• Lizenz: Apache-2.0
• Quelle: Ollama
• Quelle: HF