whisper.cpp

Whisper in reinem C/C++ ohne Python-Abhängigkeiten — perfekt für Offline-Diktat-Tools und Embedded.

So nutzt du es

Am einfachsten per Ollama: ollama pull <modellname> und dann ollama run <modellname> — oder komfortabel mit LM Studio (grafische Oberfläche, Modell-Suche eingebaut). Die Hardware-Angaben unten beziehen sich auf die übliche 4-Bit-Quantisierung (Q4).

Größen & Hardware

• Verfügbare Größen: nutzt Whisper-Gewichte (GGML)
• Empfohlene Hardware (Q4): läuft auf CPU, Mac, sogar Raspberry Pi

Im Detail

whisper.cpp portiert OpenAIs Whisper-Modell nach C/C++, ohne Python-Laufzeit oder schwere Abhängigkeiten wie PyTorch. Es nutzt die gleichen Gewichte (im GGML/GGUF-Format), läuft aber deutlich schlanker und sogar auf einem Raspberry Pi oder in mobilen Apps. Für Entwickler, die Spracherkennung in eine native App, ein Kommandozeilen-Tool oder ein Embedded-Gerät einbauen wollen, ist das oft die praktischere Wahl als das Python-Original – weniger Setup-Aufwand, kleinerer Ressourcenbedarf, einfacheres Deployment. Wer dagegen ohnehin in einer Python-Umgebung arbeitet und maximale Flexibilität bei Nachbearbeitung oder Batch-Verarbeitung will, fährt mit dem originalen Whisper-Modell meist komfortabler.

Praxis-Tipp

Für ein Offline-Diktat-Tool auf dem Mac whisper.cpp mit dem Modell „base“ oder „small“ und Core-ML-Beschleunigung nutzen – reicht für Echtzeit-Transkription ohne spürbare Verzögerung.

Lizenz & Quelle

• Lizenz: MIT
• Quelle: GitHub