Der Reddit-Nutzer Gesha24 schildert in r/LocalLLaMA seine Erfahrungen mit Gemma4-Modellen im lokalen Betrieb unter Windows – konkret Q5-Quant des 31B- und Q8-Quant des 27B-Modells, getestet mit verschiedenen GGUF-Quants (u.a. Unsloth) sowie den Backends ROCm und Vulkan. Als Vergleichsreferenz dient Qwen3 (6B), mit dem der Autor bei Coding-Aufgaben und Bildbasierter Datenextraktion gute Erfahrungen gemacht hat. Gemma4 punktet laut Bericht bei konzeptionellen Diskussionen und allgemeinem Wissen, versagt aber im Agentic-Betrieb: Es scheitert häufig bei PowerShell-Kommandos, ohne eigenständig Alternativen zu suchen; es verwechselt im Pi-Harness-Framework Skills (z.B. SearxNG-Search) mit regulären Tools und benötigt 3–4 Extra-Prompts für korrekte Aufrufe; es gerät bei Unsicherheiten in stabile Wiederholungsschleifen, aus denen es kaum herausgelöst werden kann; und es bricht Aufgaben mittendrin ab. Der KV-Cache wird bewusst auf FP16 gehalten, da dies die Modellqualität spürbar beeinflusst. Der Post löste eine breite Community-Diskussion aus, ob Gemma4 primär als Chatbot statt als Coding-Agent taugt.