machichdigital

Lokale LLMs · Foto: derekGavey, CC BY 2.0

ToolRAG-WerkzeugeLizenz: MIT (Community Edition)

Onyx (früher Danswer)

Zuletzt aktualisiert:

⧉ –× kopiert⬇ –× heruntergeladenBewertung:

Typ

Tool

Lizenz

MIT (Community Edition)

Anwendungsfeld

RAG-Werkzeuge

Teams, die eine private Suche über ihr gesamtes Firmenwissen auf eigener Infrastruktur wollen.

Voraussetzungen

Keine besonderen — direkt loslegen.

Eine selbst gehostete KI-Suche fürs Team: verbindet sich mit euren Wissensquellen (Dateien, Wikis, Chats) und beantwortet Fragen quer über alles — mit Quellenangabe.

Für wen: Teams, die eine private Suche über ihr gesamtes Firmenwissen auf eigener Infrastruktur wollen.

Installation

Per Docker Compose (Anleitung im Repo):

git clone https://github.com/onyx-dot-app/onyx
cd onyx/deployment/docker_compose
docker compose up -d

Modelle wahlweise lokal (Ollama) oder Cloud.

Erste Schritte

In der Oberfläche Konnektoren einrichten — Onyx zieht damit Dokumente aus euren Quellen und indexiert sie. Danach stellt das Team Fragen in natürlicher Sprache und bekommt Antworten mit Verweis auf die Original-Dokumente.

Plattformen: Docker

Im Detail

Onyx (bis 2024 Danswer) ist eine selbst gehostete KI-Suchmaschine fürs Team: Sie verbindet sich per Connectoren mit den Wissensquellen, die im Unternehmen bereits existieren — Dateiablagen, Wikis, Chat-Tools — und beantwortet Fragen quer über all diese Quellen hinweg, inklusive Quellenangabe zur Nachprüfbarkeit. Das unterscheidet es von einem reinen Chatbot: Es geht nicht um freies Plaudern, sondern darum, verstreutes Firmenwissen auffindbar zu machen, ohne Daten an externe Anbieter zu schicken. Sinnvoll für Teams, die mehrere Wissensquellen haben und eine zentrale, private Suche wollen, die alles zusammenführt. Der Einrichtungsaufwand ist höher als bei einem einzelnen RAG-Tool, dafür ist die Konnektor-Auswahl breiter.

Praxis-Tipp

Zuerst nur ein bis zwei Quellen (z. B. Wiki plus Dateiablage) anbinden und testen, ob die Quellenangaben in den Antworten wirklich stimmen, bevor Sie weitere Connectoren aktivieren.

Siehe auch

Lizenz & Quelle

Erfahrungen & Kommentare.

Funktioniert der Tool bei Ihnen? Tipps, Stolperfallen, Varianten — teilen Sie es mit der Community.

Lade Kommentare …

Ihre IP-Adresse wird zum Schutz vor Missbrauch gespeichert und nach 14 Tagen automatisch entfernt (Datenschutz).

Passt dazu.

PrivateGPT

Befrage deine eigenen Dokumente mit KI — zu 100 % offline. PrivateGPT liest deine PDFs und Texte ein und beantwortet Fragen dazu, ohne dass ein Byte das Gerät verlässt.

Apache-2.0♥ –⧉ –

RAGFlow

Eine RAG-Engine mit besonders starkem Dokumentenverständnis: zerlegt auch komplexe PDFs mit Tabellen und Layout sauber — für präzise, belegte Antworten.

Apache-2.0♥ –⧉ –

Llama 3.1

Der Meta-Klassiker mit 128K Kontext. 8B ist ein sehr solider Allrounder für schwächere Hardware, spricht ordentlich Deutsch.

Llama 3.1 Community License♥ –⧉ –