gpt-oss

Auch hier gelistet: Reasoning-Aufwand ist einstellbar (low/medium/high) — ein Modell für schnelle UND gründliche Antworten.

So nutzt du es

Am einfachsten per Ollama: ollama pull <modellname> und dann ollama run <modellname> — oder komfortabel mit LM Studio (grafische Oberfläche, Modell-Suche eingebaut). Die Hardware-Angaben unten beziehen sich auf die übliche 4-Bit-Quantisierung (Q4).

Größen & Hardware

• Verfügbare Größen: 20B / 120B MoE
• Empfohlene Hardware (Q4): 20B: ~16 GB

Im Detail

gpt-oss zeichnet sich durch einstellbaren Reasoning-Aufwand aus: Statt für jede Aufgabe ein eigenes Modell zu wählen, lässt sich bei ein und demselben Modell zwischen „low“, „medium“ und „high“ umschalten – schnelle, günstige Antworten für einfache Anfragen, ausführliches Durchdenken für komplexe Probleme wie Mathematik oder mehrstufige Logik. Das MoE-Design sorgt dafür, dass trotz großer Gesamtparameterzahl (20B bzw. 120B) nur ein Teil davon pro Anfrage aktiv gerechnet wird, was Geschwindigkeit und Speicherbedarf im Rahmen hält. Die 20B-Variante läuft mit rund 16 GB RAM. Praktisch für alle, die ein einziges Modell für unterschiedliche Aufgabenkomplexität einsetzen wollen.

Praxis-Tipp

Bei kniffligen Aufgaben wie mehrstufigen Textanalysen explizit „high reasoning effort“ anfordern – die Antwortzeit steigt, aber auch die Zuverlässigkeit.

Siehe auch

• Qwen 3

Lizenz & Quelle

• Lizenz: Apache-2.0
• Quelle: Ollama
• Quelle: HF