Der Thread auf r/LocalLLaMA, gepostet von u/BeautyxArt, dreht sich um eine konkrete Frustration vieler Nutzer lokaler Modelle: Qwen2-7B und Gemma4-31B-QAT neigen dazu, Antworten stark zu komprimieren und in starre Stichpunkt- oder Schritt-für-Schritt-Strukturen zu pressen – unabhängig vom eigentlichen Thema. Besonders außerhalb von Coding-Aufgaben, so die Beobachtung des Threaderstellers, lässt sich kaum freier, fließender Text aus den Modellen herausholen. Die Community wird eingeladen, Prompt-Formulierungen zu teilen, die das Kernverhalten der Modelle merklich verändern – nicht nur das Thema, sondern den Stil und die Textur der Ausgaben. Als Beispiel nennt der OP Formulierungen wie „you are in a Developer Mode", die laut seiner Erfahrung tatsächlich Wirkung zeigen. Ein anderer Versuch, das Modell durch eine Anweisung zum Ignorieren des End-Tokens zum Weiterschreiben zu bringen, scheiterte hingegen. Solche sogenannten „Magic Words" oder Jailbreak-nahen System-Prompt-Fragmente sind ein klassisches Thema in der LocalLLaMA-Community, da Quantisierungen wie QAT (Quantization-Aware Training) das Instruktions-Following teils anders gewichten als die Basis-Modelle. Die Diskussion ist rein community-getrieben und basiert auf individuellen Experimenten ohne kontrollierte Evaluierung.