BGE-M3

Tipp für deutsche Dokumente: multilingual, kann dichte + Sparse-Suche (hybrid) gleichzeitig. Sehr beliebt für mehrsprachiges RAG.

Im Detail

BGE-M3 ist ein multilinguales Embedding-Modell, das für deutsche und andere nicht-englische Dokumente besonders empfehlenswert ist, weil es dichte (semantische) und Sparse-Suche (Keyword-artig) gleichzeitig in einem Modell vereint — sogenanntes Hybrid-Retrieval. Das macht es robuster als reine Dense-Embedding-Modelle, wenn Nutzer mit exakten Begriffen suchen, die semantisch nicht gut erfasst werden. BGE-M3 gehört zu den meistgenutzten Embedding-Modellen für mehrsprachiges RAG und eignet sich gut, wenn dein Wissensbestand aus verschiedenen Sprachen besteht oder du nicht nur auf Englisch optimieren willst. Für die finale Relevanz-Nachsortierung nach dem ersten Suchschritt braucht es zusätzlich ein Reranker-Modell.

Voraussetzungen

• Grundverständnis von RAG-Pipelines und Embedding-basierter Suche
• Möglichkeit, das Modell in die eigene Such-/RAG-Infrastruktur einzubinden
• Für die finale Relevanz-Sortierung zusätzlich ein Reranker-Modell

Schritt für Schritt

1. Modell als Embedding-Schritt in die bestehende RAG-Pipeline einbinden
2. Dokumente in verschiedenen Sprachen indexieren, da BGE-M3 multilingual arbeitet
3. Hybrid-Modus nutzen, damit dichte und Sparse-Suche gleichzeitig laufen
4. Nach dem ersten Retrieval einen Reranker nachschalten, um die Treffer final zu sortieren
5. Mit Suchanfragen testen, die exakte Begriffe enthalten, um die Sparse-Stärke zu prüfen

Beispiel aus der Praxis

Ein Unternehmen mit deutscher und englischer Support-Dokumentation nutzt BGE-M3 für die Volltextsuche: Eine Anfrage mit einem exakten Fehlercode wird über die Sparse-Suche gefunden, während semantisch ähnliche Fragen ohne den genauen Begriff über die Dense-Suche erfasst werden.

Praxis-Tipp

Kombiniere BGE-M3 als Embedding-Modell für die erste Suche mit einem Reranker-Modell als zweitem Schritt — das verbessert die Trefferqualität bei mehrsprachigem RAG spürbar.

Stolperfallen

Ohne nachgeschalteten Reranker bleibt die Sortierung der Treffer ungenau, da BGE-M3 nur das Retrieval, nicht das Reranking übernimmt. Wer die Hybrid-Fähigkeit nur mit englischen Testdaten prüft, übersieht möglicherweise Schwächen bei anderen Sprachen.

Lizenz & Quelle

• Lizenz: MIT
• Quelle: Ollama
• Quelle: HF