Ein Reddit-Nutzer beschreibt in r/LocalLLaMA konkrete Qualitätsprobleme beim lokalen Betrieb von Qwen3.5 122B A10B (Q3_K_XL) über llama.cpp: Ab etwa 75.000–80.000 genutzten Kontext-Tokens setzt ein abrupter Qualitätsabfall ein — das Modell beginnt zu halluzinieren, vergisst frühere Inhalte und verwechselt eigene Aussagen mit denen des Nutzers. Der Autor verwendet bereits BF16-KV-Cache und kompaktiert den Kontext präventiv, um das Problem zu umgehen. Q4-Quantisierung wäre laut eigenen Angaben hardwareseitig nicht möglich, ohne auf Disk-Swapping zurückzugreifen. Offen bleibt, ob das Verhalten modell- oder quantisierungsspezifisch ist und ob llama.cpp-Parameter das Problem mildern könnten. Die Diskussion ist relevant für alle, die großparametrige MoE-Modelle mit niedrigen Quants für Long-Context-Coding-Workflows nutzen.