machichdigital

Lokale LLMs · Foto: derekGavey, CC BY 2.0

ModellLokale LLM-ModelleLizenz: Gemma Terms of Use

Gemma 3

Zuletzt aktualisiert:

⧉ –× kopiert⬇ –× heruntergeladenBewertung:

Typ

Modell

Lizenz

Gemma Terms of Use

Anwendungsfeld

Lokale LLM-Modelle

Voraussetzungen

  • Rechner mit 4-6 GB (4B), 12-16 GB (12B) oder 24 GB (27B) Speicher je gewählter Größe

Einordnung

AufwandEinrichtung & Einarbeitung2/5 · eher geringNutzenErtrag im Alltag5/5 · hochVoraussetzungenWas vorher da sein muss3/5 · mittel1 = gering5 = hoch

Breites Funktionspaket bei moderatem Einrichtungsaufwand, solange die Hardware passt.

Googles aktuelle offene Reihe: ab 4B multimodal (versteht Bilder), 128K Kontext, über 100 Sprachen. 12B ist ein exzellenter Allrounder für 16-GB-Rechner.

Größen & Hardware

  • Verfügbare Größen: 1B / 4B / 12B / 27B
  • Empfohlene Hardware (Q4): 4B: 4–6 GB · 12B: 12–16 GB · 27B: 24 GB

Benutzungsanleitung

Googles offene Familie — besonders stark im Verhältnis Leistung zu Größe, gute Bildverarbeitung.

Installation:

ollama run gemma3

Varianten: gemma3:4b (ab 6 GB RAM), gemma3:12b (16 GB), gemma3:27b (32 GB+). Die 4B-Variante versteht auch Bilder.

Wofür gut: Alltag, Zusammenfassungen, Bild-Beschreibung — und dank kompakter Größen ein Favorit für schwächere Hardware und On-Device-Einsatz.

Erster Test: der 4b-Variante ein Foto geben („Beschreibe dieses Bild“) — lokal, ohne dass das Bild den Rechner verlässt.

Im Detail

Gemma 3 ist Googles aktuelle offene Modellreihe in vier Größen von 1B bis 27B. Ab der 4B-Version versteht das Modell zusätzlich Bilder, unterstützt einen Kontext von 128.000 Token und deckt über 100 Sprachen ab – für ein offenes Modell ein ungewöhnlich breites Paket. Die 12B-Variante gilt als exzellenter Allrounder für Rechner mit 16 GB RAM: gutes Verhältnis zwischen Qualität und Ressourcenbedarf, ohne dass man auf Bildverständnis verzichten muss. Für reine Textaufgaben konkurriert sie mit Llama 3.3 oder Qwen 3, hat aber durch Multimodalität und Kontextlänge oft die Nase vorn. Wer ein einzelnes Modell für möglichst viele Anwendungsfälle sucht, ist mit Gemma 3 gut bedient.

Schritt für Schritt

  1. Sie wählen die passende Modellgröße (12B als Allrounder für 16 GB RAM).
  2. Sie setzen das Modell ab der 4B-Version auch für Bildbeschreibungen ein.
  3. Sie nutzen den langen Kontext von bis zu 128.000 Token für umfangreiche Dokumente.
  4. Sie vergleichen bei reinen Textaufgaben das Ergebnis mit Llama 3.3 oder Qwen 3.
  5. Sie prüfen bei mehrsprachigen Anwendungsfällen die Abdeckung von über 100 Sprachen.

Beispiel aus der Praxis

Auf einem 16-GB-Rechner wird Gemma 3 12B genutzt, um sowohl Text-Chats zu führen als auch ein Foto zu beschreiben - dank Multimodalität ohne separates Bildmodell.

Praxis-Tipp

Die 12B-Variante als Standardmodell einrichten, wenn sowohl Text-Chat als auch gelegentliche Bildanalyse (z. B. Screenshots erklären) gebraucht werden – erspart ein zweites Vision-Modell.

Stolperfallen

Bei reinen Textaufgaben ohne Bildbedarf ist Gemma 3 nicht automatisch die beste Wahl - Llama 3.3 oder Qwen 3 können gleichwertig sein. Achten Sie außerdem darauf, dass die gewählte Größe zu Ihrem verfügbaren Speicher passt, sonst läuft das Modell nicht performant.

Siehe auch

Lizenz & Quelle

  • Lizenz: Gemma Terms of Use
  • Quelle: Ollama
  • Quelle: HF

Häufige Fragen.

Brauchen Sie für Bildverständnis eine bestimmte Version?

Ja, erst ab der 4B-Variante versteht das Modell zusätzlich Bilder, die 1B-Version nicht.

Wie viel Speicher braucht die empfohlene 12B-Variante?

Sie sollten mit 12-16 GB RAM rechnen.

Ist Gemma 3 besser als Llama 3.3 oder Qwen 3?

Bei reinen Textaufgaben sind die Modelle vergleichbar, durch Multimodalität und 128K Kontext hat Gemma 3 oft die Nase vorn.

Erfahrungen & Kommentare.

Funktioniert der Modell bei Ihnen? Tipps, Stolperfallen, Varianten — teilen Sie es mit der Community.

Lade Kommentare …

Ihre IP-Adresse wird zum Schutz vor Missbrauch gespeichert und nach 14 Tagen automatisch entfernt (Datenschutz).

Passt dazu.

Llama 3.1

Der Meta-Klassiker mit 128K Kontext. 8B ist ein sehr solider Allrounder für schwächere Hardware, spricht ordentlich Deutsch.

Llama 3.1 Community License♥ –⧉ –

Llama 3.3

Leistet laut Meta ungefähr so viel wie das riesige 405B-Modell — der Preis-Leistungs-Tipp, wenn man 64 GB (z. B. Mac Studio) hat.

Llama 3.3 Community License♥ –⧉ –

Llama 4 (Scout / Maverick)

Metas MoE-Generation mit sehr großem Kontext und Bildverständnis. Für Heim-Hardware meist zu groß — eher für Server/Mac Studio 128 GB+.

Llama 4 Community License (EU-Einschränkungen für multimodale Nutzung beachten!)♥ –⧉ –