machichdigital

Lokale LLMs · Foto: derekGavey, CC BY 2.0

ModellLokale LLM-ModelleLizenz: Apache-2.0 (7B/14B/32B); 3B + 72B: eigene Qwen-Lizenz

Qwen 2.5

Zuletzt aktualisiert:

⧉ –× kopiert⬇ –× heruntergeladenBewertung:

Typ

Modell

Lizenz

Apache-2.0 (7B/14B/32B); 3B + 72B: eigene Qwen-Lizenz

Anwendungsfeld

Lokale LLM-Modelle

Voraussetzungen

Keine besonderen — direkt loslegen.

Alibabas Arbeitspferd: stark in vielen Sprachen (auch Deutsch), Mathe und strukturierten Ausgaben (JSON). Die Apache-Größen sind auch kommerziell völlig frei.

So nutzt du es

Am einfachsten per Ollama: ollama pull <modellname> und dann ollama run <modellname> — oder komfortabel mit LM Studio (grafische Oberfläche, Modell-Suche eingebaut). Die Hardware-Angaben unten beziehen sich auf die übliche 4-Bit-Quantisierung (Q4).

Größen & Hardware

  • Verfügbare Größen: 0.5B–72B (0.5/1.5/3/7/14/32/72)
  • Empfohlene Hardware (Q4): 7B: 8 GB · 14B: 16 GB · 32B: 24–32 GB

Im Detail

Qwen 2.5 ist Alibabas breit einsetzbares Allround-Modell und deckt mit Größen von 0.5B bis 72B praktisch jeden Anwendungsfall ab, vom Raspberry Pi bis zur Workstation. Besonders stark ist es in mehrsprachigen Aufgaben inklusive gutem Deutsch, in Mathematik und beim zuverlässigen Erzeugen strukturierter Ausgaben wie JSON, was es für Automatisierung und Programmanbindung attraktiv macht. Die Apache-2.0-lizenzierten Größen sind uneingeschränkt auch kommerziell nutzbar. Wer aktuellere Reasoning-Fähigkeiten will, sollte eher zu Qwen 3 greifen, aber als getestetes, breit unterstütztes Arbeitspferd für Chat und Assistenzaufgaben bleibt Qwen 2.5 eine sichere Wahl.

Praxis-Tipp

Die 7B- oder 14B-Variante eignet sich gut für zuverlässige JSON-Ausgaben in eigenen Automatisierungsskripten, etwa mit einem Prompt wie „Extrahiere Name, Datum und Betrag als JSON“.

Siehe auch

Lizenz & Quelle

  • Lizenz: Apache-2.0 (7B/14B/32B); 3B + 72B: eigene Qwen-Lizenz
  • Quelle: Ollama
  • Quelle: HF

Erfahrungen & Kommentare.

Funktioniert der Modell bei Ihnen? Tipps, Stolperfallen, Varianten — teilen Sie es mit der Community.

Lade Kommentare …

Ihre IP-Adresse wird zum Schutz vor Missbrauch gespeichert und nach 14 Tagen automatisch entfernt (Datenschutz).

Passt dazu.

Llama 3.1

Der Meta-Klassiker mit 128K Kontext. 8B ist ein sehr solider Allrounder für schwächere Hardware, spricht ordentlich Deutsch.

Llama 3.1 Community License♥ –⧉ –

Llama 3.3

Leistet laut Meta ungefähr so viel wie das riesige 405B-Modell — der Preis-Leistungs-Tipp, wenn man 64 GB (z. B. Mac Studio) hat.

Llama 3.3 Community License♥ –⧉ –

Llama 4 (Scout / Maverick)

Metas MoE-Generation mit sehr großem Kontext und Bildverständnis. Für Heim-Hardware meist zu groß — eher für Server/Mac Studio 128 GB+.

Llama 4 Community License (EU-Einschränkungen für multimodale Nutzung beachten!)♥ –⧉ –