KI, die das Handy nicht verlässt: Google bringt ein 2-Milliarden-Modell aufs Smartphone

Es gibt Entwicklungen in der KI-Welt, die laut angekündigt werden und wenig ändern — und leise, die viel ändern. Diese gehört zur zweiten Sorte: Google DeepMind bringt mit Gemma 4 E2B ein Sprachmodell mit rund 2,3 Milliarden effektiven Parametern direkt auf das Smartphone, ausgeführt auf der Tensor-Einheit (TPU) im Pixel 10.

Das Entscheidende steht im Kleingedruckten: Es läuft vollständig lokal. Reiseplanung, Rezeptvorschläge, Smart-Home-Steuerung, Spracherkennung, Bildanalyse — all das ohne Cloud-Anbindung, und, so Google, „während sensible Daten auf dem Gerät verbleiben“. Auch ohne Internet funktioniert es weiter.

Warum das wichtiger ist, als es klingt

Der Reiz liegt nicht in der Rechenleistung, sondern im Datenschutz. Jede Anfrage an ChatGPT, Gemini oder Claude verlässt heute euer Gerät und landet auf fremden Servern. Für viele Alltagsdinge ist das egal. Für manche nicht: die Notiz mit den Medikamenten, das Foto vom Ausweis, die private Nachricht, die man zusammenfassen lässt. Ein Modell, das lokal rechnet, kennt keinen fremden Server — die Frage verlässt das Haus gar nicht erst.

Dass ausgerechnet die kompakten Modelle diesen Sprung machen, ist kein Zufall. Google liefert Varianten mit sogenanntem Quantization-Aware-Training, die den Speicherbedarf drücken, damit so ein Modell überhaupt auf ein Telefon passt. Vorerst ist Gemma 4 E2B exklusiv der Pixel-10-Reihe vorbehalten — aber die Richtung ist gesetzt.

Der Gedanke, den man weiterdenken sollte

Was mich an dieser Entwicklung am meisten fasziniert: Wenn KI lokal läuft, wie hält man sie aktuell? Ein Modell weiß nur, was beim Training drin war — die Meldung von heute Morgen kennt es nicht. Der naheliegende Wunsch wäre, das Modell wöchentlich neu zu trainieren oder ihm täglich einen frischen Nachrichten-Korpus nachzuschieben und alte, unwichtige Daten wieder herauszunehmen.

Der ehrliche Zwischenruf dazu: Ein Modell täglich neu zu trainieren ist praktisch ausgeschlossen — Training dauert lange und kostet enorm viel Rechenzeit; genau deshalb erscheinen neue Modelle im Monats- und nicht im Tagesrhythmus. Aber die Idee dahinter ist goldrichtig, und es gibt bereits einen Weg dorthin: Er heißt RAG (retrieval-augmented generation). Dabei bleibt das Modell, wie es ist — man legt ihm die tagesaktuellen Informationen zur Anfrage einfach daneben, in einer durchsuchbaren Datenbank. Das Modell muss nichts „nachlernen“, es liest bei jeder Frage die aktuellen Fakten mit. Genau so bekommt man tagesfrische Antworten, ohne stundenlang zu trainieren. Der Workaround, den man sich wünscht, existiert also schon — er heißt nur anders.

Und die geopolitische Fußnote

Bleibt die Frage, wer dieses Rennen anführt. Google liefert hier — aber die spannendsten Impulse fürs Lokale kommen längst von mehreren Seiten: aus China (Qwen, DeepSeek), aus Frankreich (Mistral, mit ausdrücklich offenen Modellen), und ja, Japan mischt zunehmend mit. Das ist die gute Nachricht an der ganzen Sache: Lokale KI ist kein Monopol. Und was auf dem eigenen Gerät läuft, gehört am Ende dem, dem das Gerät gehört.

Quelle der Meldung: heise online