Gemma 4 E2B auf 8GB Android: Private Voice-Notes-App ohne Cloud
Ein Nutzer aus der LocalLLaMA-Community berichtet von mehrmonatiger Produktivnutzung des Gemma 4 E2B Modells auf einem OnePlus CE 5 mit 8GB RAM. Das 2.4GB große Modell läuft dabei überraschend zuverlässig und liefert qualitativ hochwertige JSON-Ausgaben für strukturierte Datenextraktion. Basierend auf diesen Erfahrungen entwickelte der Nutzer eine Android-App für Sprachnotizen, die komplett lokal läuft: Whisper Small (244MB) übernimmt die Transkription per Sherpa-ONNX, Gemma E2B kategorisiert und strukturiert die transkribierten Notizen via LiteRT-LM. Eine typische 10–15 Sekunden lange Sprachnotiz braucht insgesamt 12–15 Sekunden Verarbeitung. Bei der Suche nutzt die App Query-Expansion, Keyword-Extraktion und Reciprocal Rank Fusion über mehrere FTS-Indizes, optional mit einer Gemma-Reranking-Passes. Die App verzichtet komplett auf Cloud-Services und externe Konten, was Datenschutz und Offline-Funktionalität garantiert.
- Whisper Small (244MB) für Sprachtranskription, Gemma 4 E2B (2.4GB) für Kategorisierung – beide Modelle laufen lokal über LiteRT-LM
- Typische Latenz: ~5s Transkription + ~8–10s Kategorisierung auf OnePlus CE 5, Gesamtlatenz 12–15s per Notiz
- Suchmechanismus nutzt Query-Expansion, Keyword-Rewriting, Reciprocal Rank Fusion über mehrere Full-Text-Search-Indizes mit optionalem Gemma-Reranking
- JSON-Ausgaben des Gemma E2B für strukturierte Datenextraktion laut Nutzer überraschend zuverlässig und parsefreundlich für ein 2.4GB-Modell
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
Gemma 4 E2B auf 8GB Android: Private Voice-Notes-App ohne Cloud
Ein Nutzer aus der LocalLLaMA-Community berichtet von mehrmonatiger Produktivnutzung des Gemma 4 E2B Modells auf einem OnePlus CE 5 mit 8GB RAM. Das 2.4GB große Modell läuft dabei überraschend zuverlässig und liefert qualitativ hochwertige JSON-Ausgaben für strukturierte Datenextraktion. Basierend auf diesen Erfahrungen entwickelte der Nutzer eine Android-App für Sprachnotizen, die komplett lokal läuft: Whisper Small (244MB) übernimmt die Transkription per Sherpa-ONNX, Gemma E2B kategorisiert und strukturiert die transkribierten Notizen via LiteRT-LM. Eine typische 10–15 Sekunden lange Sprachnotiz braucht insgesamt 12–15 Sekunden Verarbeitung. Bei der Suche nutzt die App Query-Expansion, Keyword-Extraktion und Reciprocal Rank Fusion über mehrere FTS-Indizes, optional mit einer Gemma-Reranking-Passes. Die App verzichtet komplett auf Cloud-Services und externe Konten, was Datenschutz und Offline-Funktionalität garantiert.
- Whisper Small (244MB) für Sprachtranskription, Gemma 4 E2B (2.4GB) für Kategorisierung – beide Modelle laufen lokal über LiteRT-LM
- Typische Latenz: ~5s Transkription + ~8–10s Kategorisierung auf OnePlus CE 5, Gesamtlatenz 12–15s per Notiz
- Suchmechanismus nutzt Query-Expansion, Keyword-Rewriting, Reciprocal Rank Fusion über mehrere Full-Text-Search-Indizes mit optionalem Gemma-Reranking
- JSON-Ausgaben des Gemma E2B für strukturierte Datenextraktion laut Nutzer überraschend zuverlässig und parsefreundlich für ein 2.4GB-Modell
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.