Letta (MemGPT)

Ein Framework für Agenten mit Langzeitgedächtnis: Die KI merkt sich über Sitzungen hinweg, was besprochen wurde, indem sie ihren eigenen Speicher aktiv verwaltet.

Für wen: Wer Assistenten baut, die sich an frühere Gespräche und Fakten erinnern sollen — statt bei jedem Start bei null anzufangen.

Installation

pip install letta
letta server

Öffnet eine lokale Oberfläche zum Bauen und Testen von Agenten; funktioniert mit lokalen Modellen über Ollama.

Erste Schritte

In der Letta-Oberfläche einen Agenten anlegen und mit ihm chatten. Das Besondere: Er entscheidet selbst, welche Informationen er dauerhaft in seinen Speicher schreibt. Beim nächsten Gespräch weiß er noch, wie du heißt und woran ihr gearbeitet habt.

Plattformen: Python / Docker

Im Detail

Letta (früher MemGPT) ist ein Framework, das LLM-Agenten ein aktiv verwaltetes Gedächtnis gibt: Statt den kompletten Verlauf ins Kontextfenster zu packen, entscheidet die KI selbst, was sie in einen persistenten Speicher auslagert und wann sie es wieder abruft – ähnlich einem virtuellen Speicher-Betriebssystem für LLMs. Das Ergebnis sind Assistenten, die sich über Tage oder Wochen an Namen, Vorlieben und frühere Entscheidungen erinnern, ohne bei jedem Neustart bei null anzufangen. Lohnt sich für alle, die persönliche Assistenten, Support-Bots oder Begleiter-Apps bauen, bei denen Kontinuität zählt. Einrichtung per Docker, Nutzung über Python-API.

Beispiel aus der Praxis

Ein Support-Bot merkt sich nach einem ersten Gespräch mit einem Kunden dessen Produktversion und bisherige Probleme; Wochen später kann er in einer neuen Sitzung ohne erneute Nachfrage darauf zurückgreifen, weil Letta diese Fakten eigenständig ins Langzeitgedächtnis übernommen hat.

Praxis-Tipp

Für einen Support-Bot, der sich Kundendaten über Monate merken soll, ein Nutzerprofil als Kernspeicher anlegen und Letta per Docker-Server produktiv betreiben.

Stolperfallen

Letta ist kein No-Code-Tool — wer ohne Python- und Docker-Kenntnisse startet, unterschätzt den Setup-Aufwand. Da der Agent selbst entscheidet, was gespeichert wird, sollte man das Verhalten anfangs beobachten, statt blind zu vertrauen, dass die richtigen Fakten behalten werden.

Siehe auch

• Microsoft Semantic Kernel
• Hugging Face smolagents

Lizenz & Quelle

• Lizenz: Apache-2.0
• Quelle: Website
• Quelle: GitHub