machichdigital

Lokale LLMs · Foto: derekGavey, CC BY 2.0

ModellLokale LLM-ModelleLizenz: Apache-2.0

Mistral Large 3

⧉ –× kopiert⬇ –× heruntergeladenBewertung:

Typ

Modell

Lizenz

Apache-2.0

Quelle

HF ↗

Anwendungsfeld

Lokale LLM-Modelle

Rechenzentren und Forschung; für alle anderen über die API.

Voraussetzungen

Keine besonderen — direkt loslegen.

Mistrals größtes offenes Modell: Mixture-of-Experts mit 673 Mrd. Parametern (39 Mrd. aktiv) plus Bild-Encoder, 256.000 Tokens Kontext, Apache-2.0.

Für wen: Rechenzentren und Forschung; für alle anderen über die API.

Installation

Ohne eigene Hardware: über die Mistral-API (EU-Hosting, Konto auf console.mistral.ai) oder im Chat-Assistenten Vibe (chat.mistral.ai). Selbst betreiben: laut Model Card in FP8 auf 8× H200, als NVFP4-Variante auch auf H100/A100.

Erste Schritte

Der Wert von Large 3 liegt weniger im Heimgebrauch als darin, dass ein Modell dieser Klasse unter Apache-2.0 steht: Unternehmen können es ohne Lizenzgebühren im eigenen Rechenzentrum betreiben und anpassen.

Plattformen: Linux-Server mit GPUs (vLLM) · API

Lizenz & Quelle

  • Lizenz: Apache-2.0
  • Quelle: HF

Erfahrungen & Kommentare.

Funktioniert der Modell bei Ihnen? Tipps, Stolperfallen, Varianten — teilen Sie es mit der Community.

Lade Kommentare …

Ihre IP-Adresse wird zum Schutz vor Missbrauch gespeichert und nach 14 Tagen automatisch entfernt (Datenschutz).

Passt dazu.

Llama 3.1

Der Meta-Klassiker mit 128K Kontext. 8B ist ein sehr solider Allrounder für schwächere Hardware, spricht ordentlich Deutsch.

Llama 3.1 Community License♥ –⧉ –

Llama 3.3

Leistet laut Meta ungefähr so viel wie das riesige 405B-Modell — der Preis-Leistungs-Tipp, wenn man 64 GB (z. B. Mac Studio) hat.

Llama 3.3 Community License♥ –⧉ –

Llama 4 (Scout / Maverick)

Metas MoE-Generation mit sehr großem Kontext und Bildverständnis. Für Heim-Hardware meist zu groß — eher für Server/Mac Studio 128 GB+.

Llama 4 Community License (EU-Einschränkungen für multimodale Nutzung beachten!)♥ –⧉ –