Letta (MemGPT)

Ein Framework für Agenten mit Langzeitgedächtnis: Die KI merkt sich über Sitzungen hinweg, was besprochen wurde, indem sie ihren eigenen Speicher aktiv verwaltet.

Für wen: Wer Assistenten baut, die sich an frühere Gespräche und Fakten erinnern sollen — statt bei jedem Start bei null anzufangen.

Installation

pip install letta
letta server

Öffnet eine lokale Oberfläche zum Bauen und Testen von Agenten; funktioniert mit lokalen Modellen über Ollama.

Erste Schritte

In der Letta-Oberfläche einen Agenten anlegen und mit ihm chatten. Das Besondere: Er entscheidet selbst, welche Informationen er dauerhaft in seinen Speicher schreibt. Beim nächsten Gespräch weiß er noch, wie du heißt und woran ihr gearbeitet habt.

Plattformen: Python / Docker

Im Detail

Letta (früher MemGPT) löst ein Kernproblem von LLM-Agenten: das begrenzte Kontextfenster. Statt bei jeder neuen Sitzung bei null anzufangen, verwaltet der Agent selbst, was er sich dauerhaft merkt – er entscheidet aktiv, welche Informationen ins Langzeitgedächtnis wandern und wann er alte Fakten wieder abruft, ähnlich einem Betriebssystem, das Arbeitsspeicher und Festplatte verwaltet. Das eignet sich für Assistenten, die über Wochen oder Monate hinweg konsistent auf frühere Gespräche, Nutzerpräferenzen oder Fakten zugreifen sollen, etwa persönliche Assistenten oder Support-Bots mit Kundenhistorie. Im Vergleich zu simplem Alles-in-den-Prompt-Packen bleibt der Kontext schlank und skaliert auch bei langer Nutzungsdauer. Setup erfordert Python und Docker, ist also kein reines No-Code-Tool.

Praxis-Tipp

Für einen persönlichen Assistenten lohnt es sich, dem Agenten früh explizite Kernfakten (Name, Vorlieben, laufende Projekte) mitzugeben, damit er von Anfang an sinnvoll priorisiert, was dauerhaft gespeichert wird.

Siehe auch

• Microsoft Semantic Kernel
• Hugging Face smolagents

Lizenz & Quelle

• Lizenz: Apache-2.0
• Quelle: Website
• Quelle: GitHub