machichdigital

Lokale LLMs · Foto: derekGavey, CC BY 2.0

ModellLokale LLM-ModelleLizenz: Apache-2.0

mxbai-embed-large

Zuletzt aktualisiert:

⧉ –× kopiert⬇ –× heruntergeladenBewertung:

Typ

Modell

Lizenz

Apache-2.0

Anwendungsfeld

Lokale LLM-Modelle

Voraussetzungen

Keine besonderen — direkt loslegen.

Starkes englisches Embedding-Modell von Mixedbread (Berlin) — auf MTEB lange top in seiner Klasse.

So nutzt du es

Am einfachsten per Ollama: ollama pull <modellname> und dann ollama run <modellname> — oder komfortabel mit LM Studio (grafische Oberfläche, Modell-Suche eingebaut). Die Hardware-Angaben unten beziehen sich auf die übliche 4-Bit-Quantisierung (Q4).

Im Detail

mxbai-embed-large stammt vom Berliner Unternehmen Mixedbread und zählt zu den stärksten frei verfügbaren Embedding-Modellen für englischsprachige Texte — auf dem MTEB-Leaderboard, dem gängigen Vergleichsmaßstab für Embedding-Qualität, hielt es sich lange an der Spitze seiner Größenklasse. Für Retrieval-Aufgaben wie semantische Suche oder RAG-Systeme mit überwiegend englischen Inhalten liefert es entsprechend präzise Treffer. Der Fokus liegt klar auf Englisch, für deutschsprachige oder gemischtsprachige Bestände ist ein multilinguales Modell die passendere Wahl. Wer ausschließlich mit englischen Dokumenten arbeitet, bekommt hier eines der qualitativ besten lokal betreibbaren Embedding-Modelle.

Praxis-Tipp

Für ein RAG-System mit rein englischsprachiger Dokumentation ist dies einem multilingualen Modell in Retrieval-Genauigkeit meist überlegen — bei deutschen Inhalten lohnt trotzdem der Wechsel zu einem multilingualen Modell.

Lizenz & Quelle

  • Lizenz: Apache-2.0
  • Quelle: Ollama
  • Quelle: HF

Erfahrungen & Kommentare.

Funktioniert der Modell bei Ihnen? Tipps, Stolperfallen, Varianten — teilen Sie es mit der Community.

Lade Kommentare …

Ihre IP-Adresse wird zum Schutz vor Missbrauch gespeichert und nach 14 Tagen automatisch entfernt (Datenschutz).

Passt dazu.

Llama 3.1

Der Meta-Klassiker mit 128K Kontext. 8B ist ein sehr solider Allrounder für schwächere Hardware, spricht ordentlich Deutsch.

Llama 3.1 Community License♥ –⧉ –

Llama 3.3

Leistet laut Meta ungefähr so viel wie das riesige 405B-Modell — der Preis-Leistungs-Tipp, wenn man 64 GB (z. B. Mac Studio) hat.

Llama 3.3 Community License♥ –⧉ –

Llama 4 (Scout / Maverick)

Metas MoE-Generation mit sehr großem Kontext und Bildverständnis. Für Heim-Hardware meist zu groß — eher für Server/Mac Studio 128 GB+.

Llama 4 Community License (EU-Einschränkungen für multimodale Nutzung beachten!)♥ –⧉ –