Lokale LLMs · Foto: derekGavey, CC BY 2.0
Devstral
Zuletzt aktualisiert:
Typ
Modell
Lizenz
Apache-2.0
Quelle
Anwendungsfeld
Lokale LLM-Modelle
Voraussetzungen
- Rechner mit rund 16–24 GB Speicher (gute Consumer-GPU)
- Agentisches Tooling wie OpenHands zur Ausführung der Änderungen
- Vorwissen im Umgang mit agentischen Coding-Workflows
Einordnung
Der Einsatz lohnt sich vor allem mit passendem Agenten-Tooling wie OpenHands, das zusätzlichen Einrichtungsaufwand bedeutet.
Mistrals freier Coding-Agent (mit All Hands AI entwickelt), optimiert für agentische Workflows wie OpenHands — Codebasen erkunden, Multi-File-Edits.
Größen & Hardware
- Verfügbare Größen: ~24B
- Empfohlene Hardware (Q4): 16–24 GB
Im Detail
Devstral ist Mistrals Antwort auf den Trend zu agentischen Coding-Werkzeugen, die nicht nur einzelne Codezeilen vervollständigen, sondern selbstständig durch eine Codebasis navigieren, mehrere Dateien gleichzeitig bearbeiten und Änderungen mit Tools wie OpenHands ausführen. Entwickelt gemeinsam mit All Hands AI (den Machern von OpenHands), ist es speziell auf solche Workflows trainiert statt nur auf klassische Autovervollständigung. Mit rund 24 Milliarden Parametern und 16–24 GB Speicherbedarf läuft es auf einer guten Consumer-GPU. Interessant für alle, die einen lokalen Agenten für größere Refactoring-Aufgaben oder Multi-File-Änderungen wollen, statt nur einen Zeilen-Vervollständiger.
Schritt für Schritt
- Modell mit rund 16–24 GB Speicher lokal einrichten
- An ein agentisches Tool wie OpenHands anbinden, damit es selbstständig durch die Codebasis navigieren kann
- Für größere Refactoring-Aufgaben statt einzelner Zeilenvervollständigung einsetzen
- Multi-File-Änderungen vom Agenten vorschlagen und vor der Übernahme prüfen
- Ergebnisse mit klassischen Autovervollständigungs-Modellen vergleichen, um den Mehrwert für den eigenen Workflow einzuschätzen
Beispiel aus der Praxis
Bei einem größeren Refactoring, das mehrere Dateien betrifft, lässt man Devstral über OpenHands die betroffenen Stellen selbstständig aufsuchen und die Änderungen dateiübergreifend umsetzen, statt jede Datei einzeln manuell anzupassen.
Praxis-Tipp
Devstral zeigt seine Stärke erst im Zusammenspiel mit einem Agenten-Framework wie OpenHands, nicht als reiner IDE-Autovervollständiger – richten Sie es entsprechend als Backend für ein solches Tool ein.
Stolperfallen
Devstral ist auf agentische Workflows trainiert, nicht primär auf klassische Zeilen-Autovervollständigung — wer nur einen einfachen Autocomplete sucht, ist mit einem anderen Modell besser bedient. Agentische Multi-File-Änderungen sollte man vor dem Übernehmen immer prüfen, da der Agent selbstständig mehrere Dateien gleichzeitig verändert.
Siehe auch
Lizenz & Quelle
Häufige Fragen.
Wofür ist Devstral besser geeignet als ein normales Coding-Modell?
Für agentische Workflows, bei denen selbstständig durch eine Codebasis navigiert und mehrere Dateien gleichzeitig bearbeitet werden, statt nur einzelne Codezeilen zu vervollständigen.
Brauche ich ein bestimmtes Tool dafür?
Es ist speziell auf Workflows wie OpenHands trainiert, mit dem es gemeinsam entwickelt wurde.
Wie viel Hardware brauche ich?
Rund 16–24 GB Speicher, das reicht für eine gute Consumer-GPU.
Erfahrungen & Kommentare.
Funktioniert der Modell bei Ihnen? Tipps, Stolperfallen, Varianten — teilen Sie es mit der Community.
Lade Kommentare …
Passt dazu.
Llama 3.1
Der Meta-Klassiker mit 128K Kontext. 8B ist ein sehr solider Allrounder für schwächere Hardware, spricht ordentlich Deutsch.
Llama 3.3
Leistet laut Meta ungefähr so viel wie das riesige 405B-Modell — der Preis-Leistungs-Tipp, wenn man 64 GB (z. B. Mac Studio) hat.
Llama 4 (Scout / Maverick)
Metas MoE-Generation mit sehr großem Kontext und Bildverständnis. Für Heim-Hardware meist zu groß — eher für Server/Mac Studio 128 GB+.