machichdigital

Lokale LLMs · Foto: derekGavey, CC BY 2.0

ModellLokale LLM-ModelleLizenz: Apache-2.0

Qwen3-Coder

Zuletzt aktualisiert:

⧉ –× kopiert⬇ –× heruntergeladenBewertung:

Typ

Modell

Lizenz

Apache-2.0

Anwendungsfeld

Lokale LLM-Modelle

Voraussetzungen

Keine besonderen — direkt loslegen.

Nachfolger mit Fokus auf agentisches Coden (Tool-Nutzung, ganze Repos bearbeiten). Das 30B-A3B ist dank nur 3B aktiver Parameter sehr schnell.

So nutzt du es

Am einfachsten per Ollama: ollama pull <modellname> und dann ollama run <modellname> — oder komfortabel mit LM Studio (grafische Oberfläche, Modell-Suche eingebaut). Die Hardware-Angaben unten beziehen sich auf die übliche 4-Bit-Quantisierung (Q4).

Größen & Hardware

  • Verfügbare Größen: 30B-A3B MoE / 480B-A35B MoE
  • Empfohlene Hardware (Q4): 30B-A3B: 24–32 GB

Im Detail

Qwen3-Coder ist auf agentisches Programmieren zugeschnitten: Das Modell ruft eigenständig Tools auf, führt Befehle aus und kann ganze Repositories bearbeiten statt nur einzelne Codeschnipsel zu liefern. Es eignet sich damit besonders für Coding-Assistenten, die selbstständig Aufgaben wie Refactoring, Tests schreiben oder Multi-Datei-Änderungen übernehmen sollen. Die kleinere 30B-A3B-Variante ist ein Mixture-of-Experts-Modell mit nur 3B aktiven Parametern pro Anfrage, läuft dadurch trotz 30B Gesamtgröße spürbar schneller als klassische dichte Modelle gleicher Kapazität und passt mit 24–32 GB auf gute Consumer-GPUs. Die große 480B-A35B-Version richtet sich an Nutzer mit entsprechender Serverhardware.

Praxis-Tipp

Am besten mit einem Agenten-Framework nutzen, das Tool-Aufrufe unterstützt, etwa für den Prompt „Behebe den fehlschlagenden Test in diesem Repo und erkläre die Änderung“.

Siehe auch

Lizenz & Quelle

  • Lizenz: Apache-2.0
  • Quelle: Ollama
  • Quelle: HF

Erfahrungen & Kommentare.

Funktioniert der Modell bei Ihnen? Tipps, Stolperfallen, Varianten — teilen Sie es mit der Community.

Lade Kommentare …

Ihre IP-Adresse wird zum Schutz vor Missbrauch gespeichert und nach 14 Tagen automatisch entfernt (Datenschutz).

Passt dazu.

Llama 3.1

Der Meta-Klassiker mit 128K Kontext. 8B ist ein sehr solider Allrounder für schwächere Hardware, spricht ordentlich Deutsch.

Llama 3.1 Community License♥ –⧉ –

Llama 3.3

Leistet laut Meta ungefähr so viel wie das riesige 405B-Modell — der Preis-Leistungs-Tipp, wenn man 64 GB (z. B. Mac Studio) hat.

Llama 3.3 Community License♥ –⧉ –

Llama 4 (Scout / Maverick)

Metas MoE-Generation mit sehr großem Kontext und Bildverständnis. Für Heim-Hardware meist zu groß — eher für Server/Mac Studio 128 GB+.

Llama 4 Community License (EU-Einschränkungen für multimodale Nutzung beachten!)♥ –⧉ –