Der Reddit-Nutzer /u/Some-Cauliflower4902 hat über einen Monat lang die UD-Variante von Gemma 4 31B in der Q4_K_M-Quantisierung im täglichen Einsatz genutzt und beschreibt das Modell als funktional, aber nervös: Bei langen Kontexten ab etwa 20.000 Token, langen Tool-Chains oder erkannten eigenen Fehlern neigt Q4_K_M dazu, instabil zu werden. Als Gegenpart testete er die sogenannte „Heretic"-Version – eine entfeinderte Variante –, die zwar weniger überängstlich reagiert, dafür aber ebenfalls Fehler produziert und der Qualitätssicherung gleichgültig gegenübersteht. Die QAT-Variante (Quantization-Aware Training) schnitt in einem mehrstündigen Alltagstest deutlich besser ab: Sie bewältigte 32k Kontext mit aktiviertem vollständigem Reasoning problemlos und zeigte keine Anzeichen von Instabilität. Der Nutzer führt das nervöse Verhalten von Q4_K_M auf die Quantisierungsmethode selbst zurück – ein Q4-Modell, das volle Präzision anstreben will, stoße bei steigendem Kontext an strukturelle Grenzen. QAT adressiert dieses Problem grundlegend, indem das Quantisierungsbewusstsein bereits in den Trainingsprozess integriert wird statt nachträglich angewendet zu werden. Der Beitrag ist ein qualitativer Erfahrungsbericht ohne Benchmarks oder Messzahlen, liefert aber nachvollziehbare Alltagsbeobachtungen für Nutzer, die Gemma 4 31B lokal betreiben.