StarCoder2

Transparent trainiertes Community-Modell (BigCode/Hugging Face) auf 600+ Sprachen. Das 3B ist eine gute lokale Autocomplete-Engine.

So nutzt du es

Am einfachsten per Ollama: ollama pull <modellname> und dann ollama run <modellname> — oder komfortabel mit LM Studio (grafische Oberfläche, Modell-Suche eingebaut). Die Hardware-Angaben unten beziehen sich auf die übliche 4-Bit-Quantisierung (Q4).

Größen & Hardware

• Verfügbare Größen: 3B / 7B / 15B
• Empfohlene Hardware (Q4): 3B: 4 GB · 15B: 12–16 GB

Im Detail

StarCoder2 ist ein von der BigCode-Community (u. a. Hugging Face, ServiceNow, NVIDIA) entwickeltes Coding-Modell, dessen Training und Datenherkunft transparent dokumentiert sind – ein Kontrast zu vielen proprietären Code-Assistenten. Es wurde auf über 600 Programmiersprachen trainiert und ist in drei Größen verfügbar: 3B für schnelles lokales Autocomplete direkt im Editor, sowie 7B und 15B für komplexere Aufgaben wie Codeverständnis oder größere Refactorings. Die kleine 3B-Variante läuft schon mit rund 4 GB RAM und eignet sich als datenschutzfreundlicher Ersatz für Cloud-Copiloten, während 15B mit 12–16 GB RAM näher an die Qualität größerer kommerzieller Modelle herankommt, ohne deren Größe zu erreichen.

Praxis-Tipp

Die 3B-Variante über eine IDE-Integration (z. B. Continue.dev) als lokalen Autocomplete-Ersatz einbinden – reicht für Funktionsvervollständigung, aber nicht für komplexe mehrstufige Coding-Aufgaben.

Lizenz & Quelle

• Lizenz: BigCode OpenRAIL-M
• Quelle: Ollama
• Quelle: HF