whisper.cpp

Whisper in reinem C/C++ ohne Python-Abhängigkeiten — perfekt für Offline-Diktat-Tools und Embedded.

So nutzt du es

Am einfachsten per Ollama: ollama pull <modellname> und dann ollama run <modellname> — oder komfortabel mit LM Studio (grafische Oberfläche, Modell-Suche eingebaut). Die Hardware-Angaben unten beziehen sich auf die übliche 4-Bit-Quantisierung (Q4).

Größen & Hardware

• Verfügbare Größen: nutzt Whisper-Gewichte (GGML)
• Empfohlene Hardware (Q4): läuft auf CPU, Mac, sogar Raspberry Pi

Im Detail

whisper.cpp ist eine reine C/C++-Portierung von OpenAIs Whisper-Modell, die ohne Python- oder PyTorch-Abhängigkeiten auskommt. Das macht es ideal für Offline-Diktier-Tools, Embedded-Geräte und alles, wo eine schlanke, schnell startende Binary gefragt ist statt eines schweren Python-Stacks – es läuft sogar auf einem Raspberry Pi. Die Erkennungsqualität entspricht dem jeweils genutzten Whisper-Modell (GGML-Gewichte), technisch ist es also nicht ‘besser’ als das Original, sondern schlanker und einfacher zu integrieren. Für Entwickler, die Spracherkennung in eine App oder ein CLI-Tool einbauen wollen, ohne eine Python-Laufzeitumgebung mitzuschleppen, ist es meist die praktischere Wahl.

Praxis-Tipp

Für ein schnelles Offline-Diktat-Tool auf dem Mac reicht das small- oder medium-Modell mit whisper.cpp und CPU – ganz ohne GPU oder Python-Setup.

Lizenz & Quelle

• Lizenz: MIT
• Quelle: GitHub