Lokale LLMs · Foto: derekGavey, CC BY 2.0
Onyx (früher Danswer)
Zuletzt aktualisiert:
Typ
Tool
Lizenz
MIT (Community Edition)
Quelle
Anwendungsfeld
RAG-Werkzeuge
Teams, die eine private Suche über ihr gesamtes Firmenwissen auf eigener Infrastruktur wollen.
Voraussetzungen
Keine besonderen — direkt loslegen.
Eine selbst gehostete KI-Suche fürs Team: verbindet sich mit euren Wissensquellen (Dateien, Wikis, Chats) und beantwortet Fragen quer über alles — mit Quellenangabe.
Für wen: Teams, die eine private Suche über ihr gesamtes Firmenwissen auf eigener Infrastruktur wollen.
Installation
Per Docker Compose (Anleitung im Repo):
git clone https://github.com/onyx-dot-app/onyx
cd onyx/deployment/docker_compose
docker compose up -d
Modelle wahlweise lokal (Ollama) oder Cloud.
Erste Schritte
In der Oberfläche Konnektoren einrichten — Onyx zieht damit Dokumente aus euren Quellen und indexiert sie. Danach stellt das Team Fragen in natürlicher Sprache und bekommt Antworten mit Verweis auf die Original-Dokumente.
Plattformen: Docker
Im Detail
Onyx (bis 2024 Danswer) ist eine selbst gehostete KI-Suchmaschine fürs Team: Sie verbindet sich per Connectoren mit den Wissensquellen, die im Unternehmen bereits existieren — Dateiablagen, Wikis, Chat-Tools — und beantwortet Fragen quer über all diese Quellen hinweg, inklusive Quellenangabe zur Nachprüfbarkeit. Das unterscheidet es von einem reinen Chatbot: Es geht nicht um freies Plaudern, sondern darum, verstreutes Firmenwissen auffindbar zu machen, ohne Daten an externe Anbieter zu schicken. Sinnvoll für Teams, die mehrere Wissensquellen haben und eine zentrale, private Suche wollen, die alles zusammenführt. Der Einrichtungsaufwand ist höher als bei einem einzelnen RAG-Tool, dafür ist die Konnektor-Auswahl breiter.
Praxis-Tipp
Zuerst nur ein bis zwei Quellen (z. B. Wiki plus Dateiablage) anbinden und testen, ob die Quellenangaben in den Antworten wirklich stimmen, bevor Sie weitere Connectoren aktivieren.
Siehe auch
Lizenz & Quelle
Erfahrungen & Kommentare.
Funktioniert der Tool bei Ihnen? Tipps, Stolperfallen, Varianten — teilen Sie es mit der Community.
Lade Kommentare …
Passt dazu.
PrivateGPT
Befrage deine eigenen Dokumente mit KI — zu 100 % offline. PrivateGPT liest deine PDFs und Texte ein und beantwortet Fragen dazu, ohne dass ein Byte das Gerät verlässt.
RAGFlow
Eine RAG-Engine mit besonders starkem Dokumentenverständnis: zerlegt auch komplexe PDFs mit Tabellen und Layout sauber — für präzise, belegte Antworten.
Llama 3.1
Der Meta-Klassiker mit 128K Kontext. 8B ist ein sehr solider Allrounder für schwächere Hardware, spricht ordentlich Deutsch.
