Lokale LLMs · Foto: derekGavey, CC BY 2.0
Moondream
Zuletzt aktualisiert:
Typ
Modell
Lizenz
Apache-2.0
Quelle
Anwendungsfeld
Lokale LLM-Modelle
Voraussetzungen
Keine besonderen — direkt loslegen.
Winziges Vision-Modell für Edge-Geräte und schnelle Bild-Pipelines (Captioning, einfache Fragen, Objekt-Erkennung) — läuft fast überall.
So nutzt du es
Am einfachsten per Ollama: ollama pull <modellname> und dann ollama run <modellname> — oder komfortabel mit LM Studio (grafische Oberfläche, Modell-Suche eingebaut). Die Hardware-Angaben unten beziehen sich auf die übliche 4-Bit-Quantisierung (Q4).
Größen & Hardware
- Verfügbare Größen: ~1.9B
- Empfohlene Hardware (Q4): 2–4 GB
Im Detail
Moondream ist mit knapp 1,9 Milliarden Parametern eines der kleinsten brauchbaren Vision-Modelle und läuft dank seines geringen Speicherbedarfs von 2-4 GB auch auf schwacher Hardware oder Edge-Geräten. Es beherrscht einfache Bildbeschreibung, Objekterkennung und kurze Bildfragen zuverlässig, kommt aber an die Genauigkeit großer Vision-Modelle nicht heran. Der Vorteil liegt in der Geschwindigkeit: Für Massenverarbeitung vieler Bilder in einer Pipeline, etwa automatische Alt-Text-Generierung oder Vorfilterung großer Bildmengen, ist es durch seine geringe Größe oft die praktikablere Wahl als ein großes Allround-Modell.
Praxis-Tipp
Ideal für Batch-Jobs wie “Erzeuge einen Alt-Text für jedes Bild in diesem Ordner” — für komplexe Bildanalysen mit mehreren Rückfragen brauchen Sie ein größeres Vision-Modell.
Siehe auch
Lizenz & Quelle
Erfahrungen & Kommentare.
Funktioniert der Modell bei Ihnen? Tipps, Stolperfallen, Varianten — teilen Sie es mit der Community.
Lade Kommentare …
Passt dazu.
Llama 3.1
Der Meta-Klassiker mit 128K Kontext. 8B ist ein sehr solider Allrounder für schwächere Hardware, spricht ordentlich Deutsch.
Llama 3.3
Leistet laut Meta ungefähr so viel wie das riesige 405B-Modell — der Preis-Leistungs-Tipp, wenn man 64 GB (z. B. Mac Studio) hat.
Llama 4 (Scout / Maverick)
Metas MoE-Generation mit sehr großem Kontext und Bildverständnis. Für Heim-Hardware meist zu groß — eher für Server/Mac Studio 128 GB+.
