Chrome-Extension Dobby macht Gemini Nano ohne GPU direkt nutzbar
Google Chrome lädt Gemini Nano – das Modell bezeichnet sich selbst als Gemma – seit kurzem still im Hintergrund herunter. Die Inferenz läuft vollständig lokal im Browser, ohne Cloud-Anbindung. Der Entwickler /u/Some-Cauliflower4902 hat darauf aufbauend die Chrome-Extension „Dobby" gebaut, um das Modell über eine normale Benutzeroberfläche ansprechen zu können, statt es umständlich über die Browser-DevTools zu bedienen. Voraussetzungen sind lediglich Google Chrome, 16 GB RAM und freier Festplattenspeicher – keine separate Laufzeitumgebung wie llama.cpp oder vLLM notwendig. Der Entwickler schätzt die Inferenzgeschwindigkeit auf seinem Laptop auf rund 20 Token/s ohne GPU; exakte Zahlen liegen nicht vor, da Chrome das Scheduling vollständig übernimmt. Pro Sitzung stehen 9.216 Tokens zur Verfügung, ein von Chrome gesetztes Limit. Die Extension ist im Chrome Web Store als Ein-Klick-Install verfügbar; der Quellcode liegt auf GitHub unter dem Namen „Dobby".
- Modell läuft vollständig lokal in Chrome, keine Cloud-Verbindung erforderlich
- Geschätzte Inferenzgeschwindigkeit: ~20 Token/s auf einem Laptop ohne GPU
- Session-Limit: 9.216 Tokens, fest von Chrome vorgegeben
- Mindestanforderungen: Google Chrome + 16 GB RAM + freier Speicherplatz
- Quellcode auf GitHub (herryupmay/Dobby), Ein-Klick-Install im Chrome Web Store verfügbar
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
- MEINUNGreddit.com5d
Gemini Nano lokal ausführen: Nutzer sucht Weg zum Laden der weights.bin
- LAUNCHreddit.com1w
Gemma 4 erreicht 255 Token/s im Browser via WebGPU-Kernels
- MEINUNGreddit.com1w
llama.cpp auf Intel N100: CPU oder iGPU für Gemma-Inferenz?
- LAUNCHreddit.com1w
Qualcomm launcht GenieX: LLMs auf Windows-Laptops mit Snapdragon
Chrome-Extension Dobby macht Gemini Nano ohne GPU direkt nutzbar
Google Chrome lädt Gemini Nano – das Modell bezeichnet sich selbst als Gemma – seit kurzem still im Hintergrund herunter. Die Inferenz läuft vollständig lokal im Browser, ohne Cloud-Anbindung. Der Entwickler /u/Some-Cauliflower4902 hat darauf aufbauend die Chrome-Extension „Dobby" gebaut, um das Modell über eine normale Benutzeroberfläche ansprechen zu können, statt es umständlich über die Browser-DevTools zu bedienen. Voraussetzungen sind lediglich Google Chrome, 16 GB RAM und freier Festplattenspeicher – keine separate Laufzeitumgebung wie llama.cpp oder vLLM notwendig. Der Entwickler schätzt die Inferenzgeschwindigkeit auf seinem Laptop auf rund 20 Token/s ohne GPU; exakte Zahlen liegen nicht vor, da Chrome das Scheduling vollständig übernimmt. Pro Sitzung stehen 9.216 Tokens zur Verfügung, ein von Chrome gesetztes Limit. Die Extension ist im Chrome Web Store als Ein-Klick-Install verfügbar; der Quellcode liegt auf GitHub unter dem Namen „Dobby".
- Modell läuft vollständig lokal in Chrome, keine Cloud-Verbindung erforderlich
- Geschätzte Inferenzgeschwindigkeit: ~20 Token/s auf einem Laptop ohne GPU
- Session-Limit: 9.216 Tokens, fest von Chrome vorgegeben
- Mindestanforderungen: Google Chrome + 16 GB RAM + freier Speicherplatz
- Quellcode auf GitHub (herryupmay/Dobby), Ein-Klick-Install im Chrome Web Store verfügbar
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
- MEINUNGreddit.com5d
Gemini Nano lokal ausführen: Nutzer sucht Weg zum Laden der weights.bin
- LAUNCHreddit.com1w
Gemma 4 erreicht 255 Token/s im Browser via WebGPU-Kernels
- MEINUNGreddit.com1w
llama.cpp auf Intel N100: CPU oder iGPU für Gemma-Inferenz?
- LAUNCHreddit.com1w
Qualcomm launcht GenieX: LLMs auf Windows-Laptops mit Snapdragon