machichdigital

Lokale LLMs · Foto: derekGavey, CC BY 2.0

ModellLokale LLM-ModelleLizenz: Apache-2.0

Moondream

Zuletzt aktualisiert:

⧉ –× kopiert⬇ –× heruntergeladenBewertung:

Typ

Modell

Lizenz

Apache-2.0

Anwendungsfeld

Lokale LLM-Modelle

Voraussetzungen

Keine besonderen — direkt loslegen.

Winziges Vision-Modell für Edge-Geräte und schnelle Bild-Pipelines (Captioning, einfache Fragen, Objekt-Erkennung) — läuft fast überall.

So nutzt du es

Am einfachsten per Ollama: ollama pull <modellname> und dann ollama run <modellname> — oder komfortabel mit LM Studio (grafische Oberfläche, Modell-Suche eingebaut). Die Hardware-Angaben unten beziehen sich auf die übliche 4-Bit-Quantisierung (Q4).

Größen & Hardware

  • Verfügbare Größen: ~1.9B
  • Empfohlene Hardware (Q4): 2–4 GB

Im Detail

Moondream ist mit knapp 1,9 Milliarden Parametern eines der kleinsten brauchbaren Vision-Modelle und läuft dank seines geringen Speicherbedarfs von 2-4 GB auch auf schwacher Hardware oder Edge-Geräten. Es beherrscht einfache Bildbeschreibung, Objekterkennung und kurze Bildfragen zuverlässig, kommt aber an die Genauigkeit großer Vision-Modelle nicht heran. Der Vorteil liegt in der Geschwindigkeit: Für Massenverarbeitung vieler Bilder in einer Pipeline, etwa automatische Alt-Text-Generierung oder Vorfilterung großer Bildmengen, ist es durch seine geringe Größe oft die praktikablere Wahl als ein großes Allround-Modell.

Praxis-Tipp

Ideal für Batch-Jobs wie “Erzeuge einen Alt-Text für jedes Bild in diesem Ordner” — für komplexe Bildanalysen mit mehreren Rückfragen brauchen Sie ein größeres Vision-Modell.

Siehe auch

Lizenz & Quelle

  • Lizenz: Apache-2.0
  • Quelle: Ollama
  • Quelle: HF

Erfahrungen & Kommentare.

Funktioniert der Modell bei Ihnen? Tipps, Stolperfallen, Varianten — teilen Sie es mit der Community.

Lade Kommentare …

Ihre IP-Adresse wird zum Schutz vor Missbrauch gespeichert und nach 14 Tagen automatisch entfernt (Datenschutz).

Passt dazu.

Llama 3.1

Der Meta-Klassiker mit 128K Kontext. 8B ist ein sehr solider Allrounder für schwächere Hardware, spricht ordentlich Deutsch.

Llama 3.1 Community License♥ –⧉ –

Llama 3.3

Leistet laut Meta ungefähr so viel wie das riesige 405B-Modell — der Preis-Leistungs-Tipp, wenn man 64 GB (z. B. Mac Studio) hat.

Llama 3.3 Community License♥ –⧉ –

Llama 4 (Scout / Maverick)

Metas MoE-Generation mit sehr großem Kontext und Bildverständnis. Für Heim-Hardware meist zu groß — eher für Server/Mac Studio 128 GB+.

Llama 4 Community License (EU-Einschränkungen für multimodale Nutzung beachten!)♥ –⧉ –