Lokale LLMs · Foto: derekGavey, CC BY 2.0
mxbai-embed-large
Zuletzt aktualisiert:
Typ
Modell
Lizenz
Apache-2.0
Quelle
Anwendungsfeld
Lokale LLM-Modelle
Voraussetzungen
Keine besonderen — direkt loslegen.
Starkes englisches Embedding-Modell von Mixedbread (Berlin) — auf MTEB lange top in seiner Klasse.
So nutzt du es
Am einfachsten per Ollama: ollama pull <modellname> und dann ollama run <modellname> — oder komfortabel mit LM Studio (grafische Oberfläche, Modell-Suche eingebaut). Die Hardware-Angaben unten beziehen sich auf die übliche 4-Bit-Quantisierung (Q4).
Im Detail
mxbai-embed-large stammt vom Berliner Unternehmen Mixedbread und zählt zu den stärksten frei verfügbaren Embedding-Modellen für englischsprachige Texte — auf dem MTEB-Leaderboard, dem gängigen Vergleichsmaßstab für Embedding-Qualität, hielt es sich lange an der Spitze seiner Größenklasse. Für Retrieval-Aufgaben wie semantische Suche oder RAG-Systeme mit überwiegend englischen Inhalten liefert es entsprechend präzise Treffer. Der Fokus liegt klar auf Englisch, für deutschsprachige oder gemischtsprachige Bestände ist ein multilinguales Modell die passendere Wahl. Wer ausschließlich mit englischen Dokumenten arbeitet, bekommt hier eines der qualitativ besten lokal betreibbaren Embedding-Modelle.
Praxis-Tipp
Für ein RAG-System mit rein englischsprachiger Dokumentation ist dies einem multilingualen Modell in Retrieval-Genauigkeit meist überlegen — bei deutschen Inhalten lohnt trotzdem der Wechsel zu einem multilingualen Modell.
Lizenz & Quelle
Erfahrungen & Kommentare.
Funktioniert der Modell bei Ihnen? Tipps, Stolperfallen, Varianten — teilen Sie es mit der Community.
Lade Kommentare …
Passt dazu.
Llama 3.1
Der Meta-Klassiker mit 128K Kontext. 8B ist ein sehr solider Allrounder für schwächere Hardware, spricht ordentlich Deutsch.
Llama 3.3
Leistet laut Meta ungefähr so viel wie das riesige 405B-Modell — der Preis-Leistungs-Tipp, wenn man 64 GB (z. B. Mac Studio) hat.
Llama 4 (Scout / Maverick)
Metas MoE-Generation mit sehr großem Kontext und Bildverständnis. Für Heim-Hardware meist zu groß — eher für Server/Mac Studio 128 GB+.
