Lokale LLMs · Foto: derekGavey, CC BY 2.0
Mistral Medium 3.5
Typ
Modell
Lizenz
Modified MIT (siehe Model Card)
Quelle
Anwendungsfeld
Lokale LLM-Modelle
Firmen und Labore, die ein starkes europäisches Modell selbst betreiben wollen; alle anderen nutzen es bequem über API oder Vibe.
Voraussetzungen
Keine besonderen — direkt loslegen.
Mistrals Flaggschiff seit Sommer 2026: ein dichtes 128-Milliarden-Parameter-Modell, das Anweisungen, Reasoning und Programmieren in einem Modell vereint — mit offenen Gewichten.
Für wen: Firmen und Labore, die ein starkes europäisches Modell selbst betreiben wollen; alle anderen nutzen es bequem über API oder Vibe.
Installation
Ohne eigene Hardware: über die Mistral-API (EU-Hosting, Konto auf console.mistral.ai) oder im Chat-Assistenten Vibe (chat.mistral.ai). Selbst betreiben: laut Model Card mit vLLM auf 8 GPUs (Tensor-Parallel 8, rund 256 GB in BF16) — das ist Rechenzentrums-Hardware, kein Heim-PC.
Erste Schritte
Kontextfenster 256.000 Tokens: ganze Vertragswerke oder Code-Repos passen in eine Anfrage. Die Denktiefe steuern Sie über den Parameter reasoning_effort — niedrig für schnelle Antworten, hoch für knifflige Aufgaben. Seit Mai 2026 übernimmt Medium 3.5 die Rolle des eingestellten Magistral.
Plattformen: Linux-Server mit GPUs (vLLM) · API
Lizenz & Quelle
- Lizenz: Modified MIT (siehe Model Card)
- Quelle: HF
Erfahrungen & Kommentare.
Funktioniert der Modell bei Ihnen? Tipps, Stolperfallen, Varianten — teilen Sie es mit der Community.
Lade Kommentare …
Passt dazu.
Llama 3.1
Der Meta-Klassiker mit 128K Kontext. 8B ist ein sehr solider Allrounder für schwächere Hardware, spricht ordentlich Deutsch.
Llama 3.3
Leistet laut Meta ungefähr so viel wie das riesige 405B-Modell — der Preis-Leistungs-Tipp, wenn man 64 GB (z. B. Mac Studio) hat.
Llama 4 (Scout / Maverick)
Metas MoE-Generation mit sehr großem Kontext und Bildverständnis. Für Heim-Hardware meist zu groß — eher für Server/Mac Studio 128 GB+.