machichdigital

Lokale LLMs · Foto: derekGavey, CC BY 2.0

ModellLokale LLM-ModelleLizenz: Apache-2.0

Mistral 7B

Zuletzt aktualisiert:

⧉ –× kopiert⬇ –× heruntergeladenBewertung:

Typ

Modell

Lizenz

Apache-2.0

Anwendungsfeld

Lokale LLM-Modelle

Voraussetzungen

Keine besonderen — direkt loslegen.

Der Klassiker unter den freien 7B-Modellen: schnell, genügsam, gute Basis für Feintuning. Inzwischen von Neuerem überholt, aber weiterhin grundsolide.

So nutzt du es

Am einfachsten per Ollama: ollama pull <modellname> und dann ollama run <modellname> — oder komfortabel mit LM Studio (grafische Oberfläche, Modell-Suche eingebaut). Die Hardware-Angaben unten beziehen sich auf die übliche 4-Bit-Quantisierung (Q4).

Größen & Hardware

  • Verfügbare Größen: 7B
  • Empfohlene Hardware (Q4): 8 GB

Benutzungsanleitung

Der europäische Klassiker unter den lokalen Modellen — Apache-2.0, kompakt, bewährt.

Installation:

ollama run mistral

~4,1 GB, läuft ab 8 GB RAM flott.

Wofür gut: Alltagsaufgaben, Zusammenfassungen, einfache Code-Hilfe — und als europäisches Modell die erste Wahl, wenn digitale Souveränität zählt (siehe unser Mistral-Artikel unter /news).

Tipp: Für bessere Qualität bei gleicher Bedienung ist Mistral NeMo (12B) der natürliche Nachfolger, ab 16 GB RAM.

Im Detail

Mistral 7B war lange Zeit die Referenz unter den frei nutzbaren 7B-Modellen und hat maßgeblich gezeigt, wie leistungsfähig kompakte offene Modelle sein können. Es läuft mit rund 8 GB Speicherbedarf auf gewöhnlicher Consumer-Hardware, antwortet schnell und eignet sich wegen seiner sauberen Architektur weiterhin gut als Basis für eigenes Feintuning. Für den täglichen Einsatz als Assistent wurde es inzwischen von neueren Modellen wie Mistral Small 3.x oder Ministral in Qualität und Fähigkeiten überholt. Wer heute neu startet, sollte deshalb eher zu einem aktuelleren Modell greifen; Mistral 7B bleibt aber eine solide, gut dokumentierte Wahl für Experimente, ältere Anleitungen oder sehr genügsame Setups.

Praxis-Tipp

Für neue Projekte lohnt sich meist eher Mistral Small 3.x oder Ministral – Mistral 7B eignet sich noch gut, wenn Sie einer älteren Anleitung folgen oder gezielt feintunen wollen.

Siehe auch

Lizenz & Quelle

  • Lizenz: Apache-2.0
  • Quelle: Ollama
  • Quelle: HF

Erfahrungen & Kommentare.

Funktioniert der Modell bei Ihnen? Tipps, Stolperfallen, Varianten — teilen Sie es mit der Community.

Lade Kommentare …

Ihre IP-Adresse wird zum Schutz vor Missbrauch gespeichert und nach 14 Tagen automatisch entfernt (Datenschutz).

Passt dazu.

Llama 3.1

Der Meta-Klassiker mit 128K Kontext. 8B ist ein sehr solider Allrounder für schwächere Hardware, spricht ordentlich Deutsch.

Llama 3.1 Community License♥ –⧉ –

Llama 3.3

Leistet laut Meta ungefähr so viel wie das riesige 405B-Modell — der Preis-Leistungs-Tipp, wenn man 64 GB (z. B. Mac Studio) hat.

Llama 3.3 Community License♥ –⧉ –

Llama 4 (Scout / Maverick)

Metas MoE-Generation mit sehr großem Kontext und Bildverständnis. Für Heim-Hardware meist zu groß — eher für Server/Mac Studio 128 GB+.

Llama 4 Community License (EU-Einschränkungen für multimodale Nutzung beachten!)♥ –⧉ –