Mistral 7B

Der Klassiker unter den freien 7B-Modellen: schnell, genügsam, gute Basis für Feintuning. Inzwischen von Neuerem überholt, aber weiterhin grundsolide.

So nutzt du es

Am einfachsten per Ollama: ollama pull <modellname> und dann ollama run <modellname> — oder komfortabel mit LM Studio (grafische Oberfläche, Modell-Suche eingebaut). Die Hardware-Angaben unten beziehen sich auf die übliche 4-Bit-Quantisierung (Q4).

Größen & Hardware

• Verfügbare Größen: 7B
• Empfohlene Hardware (Q4): 8 GB

Benutzungsanleitung

Der europäische Klassiker unter den lokalen Modellen — Apache-2.0, kompakt, bewährt.

Installation:

ollama run mistral

~4,1 GB, läuft ab 8 GB RAM flott.

Wofür gut: Alltagsaufgaben, Zusammenfassungen, einfache Code-Hilfe — und als europäisches Modell die erste Wahl, wenn digitale Souveränität zählt (siehe unser Mistral-Artikel unter /news).

Tipp: Für bessere Qualität bei gleicher Bedienung ist Mistral NeMo (12B) der natürliche Nachfolger, ab 16 GB RAM.

Im Detail

Mistral 7B war Ende 2023 der Durchbruch unter den frei lizenzierten 7B-Modellen und ist bis heute wegen der Apache-2.0-Lizenz und der riesigen Menge an Community-Tooling (LoRA-Adapter, Fine-Tuning-Rezepte, Quantisierungen) beliebt. In reiner Antwortqualität wurde es längst von Llama 3.1, Qwen 2.5 und Mistral NeMo überholt. Der Sinn heute liegt vor allem darin, als gut dokumentierte, günstige Basis (8 GB reichen) für eigenes Fine-Tuning zu dienen, wo etablierte Workflows wichtiger sind als die neueste Rohqualität. Für neue Chat-Projekte ohne Fine-Tuning-Bedarf gibt es inzwischen bessere Optionen.

Praxis-Tipp

Guter Startpunkt für eigenes Fine-Tuning, z. B. mit LoRA auf einen firmenspezifischen Support-Datensatz, da viele fertige Trainings-Rezepte existieren.

Siehe auch

• Mistral NeMo
• Mistral Small 3.x

Lizenz & Quelle

• Lizenz: Apache-2.0
• Quelle: Ollama
• Quelle: HF