PrivateGPT

Befrage deine eigenen Dokumente mit KI — zu 100 % offline. PrivateGPT liest deine PDFs und Texte ein und beantwortet Fragen dazu, ohne dass ein Byte das Gerät verlässt.

Für wen: Alle mit vertraulichen Unterlagen (Kanzlei, Praxis, Firma), die KI-Suche wollen, aber keine Cloud dürfen.

Installation

Repository klonen und der Einrichtung in der Doku folgen (nutzt lokale Modelle über Ollama):

git clone https://github.com/zylon-ai/private-gpt

Die Doku führt Schritt für Schritt durch Installation und den Ollama-Modus.

Erste Schritte

Nach dem Start Dokumente in den vorgesehenen Ordner legen oder über die Oberfläche hochladen. PrivateGPT zerlegt und indexiert sie lokal. Dann Fragen stellen — die Antworten stammen aus deinen Dokumenten, mit Quellenangabe, komplett offline.

Plattformen: Python / Docker

Im Detail

PrivateGPT ist ein schlankes RAG-Tool, das eigene Dokumente (PDFs, Texte) einliest und Fragen dazu beantwortet – komplett offline, ohne dass Daten das Gerät verlassen. Im Vergleich zu Onyx, das auf viele Konnektoren und Teambetrieb mit mehreren Nutzern ausgelegt ist, bleibt PrivateGPT bewusst simpel: Ordner mit Dokumenten rein, Fragen stellen. Das macht es ideal für Einzelpersonen oder kleine Praxen/Kanzleien mit vertraulichen Unterlagen, die keine Cloud-Anbindung wollen oder dürfen (Mandantengeheimnis, DSGVO). Wer viele Datenquellen und mehrere Nutzer mit Rechten braucht, ist bei Onyx oder RAGFlow besser aufgehoben.

Praxis-Tipp

Dokumente einfach in den lokalen Ordner legen und einbetten lassen, dann Fragen wie „Was steht im Vertrag zur Kündigungsfrist?“ stellen – die Antwort verweist auf die Quellstelle.

Siehe auch

• Onyx (früher Danswer)
• RAGFlow

Lizenz & Quelle

• Lizenz: Apache-2.0
• Quelle: Website
• Quelle: GitHub