VibeVoice 1.5B läuft lokal auf iPhone mit 2,2 GB RAM und 1,28× Echtzeit
VibeVoice 1.5B ist ein kompaktes Sprachmodell, das der Reddit-Nutzer /u/Acceptable-Cycle4645 erfolgreich lokal auf einem iPhone betrieben hat – ein Projekt, das nach eigener Aussage als spontane Idee begann und sich zu einem vollwertigen Entwicklungsumweg auswuchs. Als Laufzeitumgebung kommt audio.cpp zum Einsatz, ein Framework für audio-basierte Sprachmodelle, das offenbar auf eine iPhone-kompatible Architektur ausgelegt ist. Mit einem Speicherbedarf von nur rund 2,2 GB RAM bleibt das Modell innerhalb der Grenzen aktueller iPhone-Hardware, und die Generierungsgeschwindigkeit von bis zu 1,28× Echtzeit ermöglicht flüssige Sprachausgabe ohne Serveranbindung. In einem Demo-Video – gepostet auf X – ist auch eine längere Generierung zu sehen, bei der der VRAM-Verbrauch laut Entwickler stabil bleibt. Das Modell selbst wurde bereits ins HF-Repo (Hugging Face) von audio.cpp hochgeladen. Das zugehörige xcframework sowie der Branch-Code sollen erst nach dem nächsten geplanten Release 0.6 veröffentlicht werden. Das Projekt zeigt, dass on-device Inferenz für Sprachmodelle in der Größenordnung von 1,5 Milliarden Parametern auf modernen Smartphones ohne Cloud-Abhängigkeit praktisch realisierbar ist.
- Das Demo-Video ist etwa eine Minute lang und wurde auf X (ehemals Twitter) veröffentlicht; die Generierung wurde zur besseren Lesbarkeit beschleunigt.
- Der VRAM-Verbrauch zeigte sich laut Entwickler auch bei längeren Generierungen stabil – kein Speicherleck beobachtet.
- Das Modell ist bereits im Hugging-Face-Repo von audio.cpp verfügbar; xcframework und Branch-Code folgen erst nach Release 0.6.
- Das Projekt entstand als ungeplanter Umweg während der Arbeit am nächsten audio.cpp-Release und war nicht von vornherein als Produktfeature geplant.
- Mit ~2,2 GB Speicherbedarf passt VibeVoice 1.5B in die RAM-Kapazität neuerer iPhones, ohne spezielle Hardware-Anpassungen zu erfordern.
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
VibeVoice 1.5B läuft lokal auf iPhone mit 2,2 GB RAM und 1,28× Echtzeit
VibeVoice 1.5B ist ein kompaktes Sprachmodell, das der Reddit-Nutzer /u/Acceptable-Cycle4645 erfolgreich lokal auf einem iPhone betrieben hat – ein Projekt, das nach eigener Aussage als spontane Idee begann und sich zu einem vollwertigen Entwicklungsumweg auswuchs. Als Laufzeitumgebung kommt audio.cpp zum Einsatz, ein Framework für audio-basierte Sprachmodelle, das offenbar auf eine iPhone-kompatible Architektur ausgelegt ist. Mit einem Speicherbedarf von nur rund 2,2 GB RAM bleibt das Modell innerhalb der Grenzen aktueller iPhone-Hardware, und die Generierungsgeschwindigkeit von bis zu 1,28× Echtzeit ermöglicht flüssige Sprachausgabe ohne Serveranbindung. In einem Demo-Video – gepostet auf X – ist auch eine längere Generierung zu sehen, bei der der VRAM-Verbrauch laut Entwickler stabil bleibt. Das Modell selbst wurde bereits ins HF-Repo (Hugging Face) von audio.cpp hochgeladen. Das zugehörige xcframework sowie der Branch-Code sollen erst nach dem nächsten geplanten Release 0.6 veröffentlicht werden. Das Projekt zeigt, dass on-device Inferenz für Sprachmodelle in der Größenordnung von 1,5 Milliarden Parametern auf modernen Smartphones ohne Cloud-Abhängigkeit praktisch realisierbar ist.
- Das Demo-Video ist etwa eine Minute lang und wurde auf X (ehemals Twitter) veröffentlicht; die Generierung wurde zur besseren Lesbarkeit beschleunigt.
- Der VRAM-Verbrauch zeigte sich laut Entwickler auch bei längeren Generierungen stabil – kein Speicherleck beobachtet.
- Das Modell ist bereits im Hugging-Face-Repo von audio.cpp verfügbar; xcframework und Branch-Code folgen erst nach Release 0.6.
- Das Projekt entstand als ungeplanter Umweg während der Arbeit am nächsten audio.cpp-Release und war nicht von vornherein als Produktfeature geplant.
- Mit ~2,2 GB Speicherbedarf passt VibeVoice 1.5B in die RAM-Kapazität neuerer iPhones, ohne spezielle Hardware-Anpassungen zu erfordern.
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.