Mistral Small 3.x

Sehr starkes, komplett freies Mittelklasse-Modell aus Europa; neuere Versionen auch mit Bildverständnis. Top-Wahl für 32-GB-Macs und RTX-3090/4090-Besitzer.

So nutzt du es

Am einfachsten per Ollama: ollama pull <modellname> und dann ollama run <modellname> — oder komfortabel mit LM Studio (grafische Oberfläche, Modell-Suche eingebaut). Die Hardware-Angaben unten beziehen sich auf die übliche 4-Bit-Quantisierung (Q4).

Größen & Hardware

• Verfügbare Größen: ~24B
• Empfohlene Hardware (Q4): 16–24 GB (Q4), ideal: 24 GB VRAM / 32 GB Mac

Benutzungsanleitung

Mistrals „kleines“ Arbeitstier — Leistung nahe der Mittelklasse-Cloud bei lokaler Ausführung.

Installation:

ollama run mistral-small

Braucht je nach Version ~14–20 GB RAM (ideal: 32 GB oder eine 16-GB-GPU).

Wofür gut: Anspruchsvollere Texte und Analysen, gutes Deutsch und Französisch, solide Code-Hilfe — Apache-2.0-lizenziert, kommerziell frei nutzbar.

Tipp: Wer zwischen Mistral 7B und Small schwankt: Small ist den Sprung wert, sobald die Hardware 16 GB+ hergibt.

Im Detail

Mistral Small 3.x ist ein komplett frei lizenziertes (Apache 2.0) Mittelklasse-Modell mit rund 24B Parametern, neuere Versionen verstehen zusätzlich Bilder. Der entscheidende Vorteil: Es passt in 16–24 GB und ist damit die Sweet-Spot-Wahl für eine einzelne RTX 3090/4090 oder einen 32-GB-Mac – während Modelle wie Llama 3.3 70B ein deutlich stärkeres (und teureres) Setup verlangen. Man bekommt damit nahezu Flaggschiff-taugliche Antwortqualität ohne Multi-GPU-Aufwand. Erste Wahl für Enthusiasten mit gehobener Consumer-Hardware, die lokal die beste Qualität pro investiertem VRAM wollen.

Praxis-Tipp

Erste Wahl, wenn eine RTX 4090 oder ein 32-GB-Mac lokal die beste Qualität liefern soll, z. B. für einen anspruchsvollen Coding-Assistenten.

Siehe auch

• Mistral NeMo
• Qwen 3

Lizenz & Quelle

• Lizenz: Apache-2.0
• Quelle: Ollama
• Quelle: HF