Moondream

Winziges Vision-Modell für Edge-Geräte und schnelle Bild-Pipelines (Captioning, einfache Fragen, Objekt-Erkennung) — läuft fast überall.

So nutzt du es

Am einfachsten per Ollama: ollama pull <modellname> und dann ollama run <modellname> — oder komfortabel mit LM Studio (grafische Oberfläche, Modell-Suche eingebaut). Die Hardware-Angaben unten beziehen sich auf die übliche 4-Bit-Quantisierung (Q4).

Größen & Hardware

• Verfügbare Größen: ~1.9B
• Empfohlene Hardware (Q4): 2–4 GB

Im Detail

Moondream ist ein extrem kompaktes Vision-Language-Modell (~1,9B Parameter, 2–4 GB), das trotzdem brauchbare Bildbeschreibungen, einfache Bildfragen und Objekterkennung liefert. Der große Pluspunkt: Es läuft auf schwacher Hardware bis hin zum Raspberry Pi und antwortet schnell, wo größere Vision-Modelle wie Llama 4 Scout/Maverick deutlich mehr RAM/VRAM brauchen. Für komplexes visuelles Reasoning oder feine Details ist es den großen Modellen unterlegen – es ist ein Spezialist für einfache, schnelle Bildaufgaben in Pipelines. Lohnt sich für Edge-Deployments, Massen-Captioning oder als schneller Vorfilter vor einem größeren Modell.

Praxis-Tipp

Für Massen-Captioning von Bilddatenbanken einsetzen, z. B. “Beschreibe kurz, was auf diesem Bild zu sehen ist” über tausende Bilder laufen lassen – deutlich günstiger als große Vision-Modelle.

Siehe auch

• Llama 4 (Scout / Maverick)

Lizenz & Quelle

• Lizenz: Apache-2.0
• Quelle: Ollama
• Quelle: HF