Ein Nutzer auf r/LocalLLaMA hat eine wenig bekannte Entwickler-Option in llama.cpps WebUI entdeckt, die die Antwortgeschwindigkeit beim KV-Cache-Decode messbar verbessert. Das Feature sendet alle im aktuellen Turn generierten Tokens direkt zurück in den KV-Cache, anstatt erst auf den nächsten User-Prompt zu warten. Das verkürzt die Prompt-Processing-Phase beim Folge-Turn erheblich. Der Autor beschreibt Wartezeiten von 5–30 Sekunden in Open-WebUI, wenn Qwen große Webseiten oder Tool-Ergebnisse verarbeitet – nach Aktivierung der Option sei dies nahezu verschwunden. Die Einstellung wirkt global auf alle Requests an llama-server, nicht nur auf Anfragen über das eingebaute WebUI. Als Testsystem dient ein Qwen3.6-35B-A3B-Modell, quantisiert auf MXFP4 und vollständig auf eine AMD RX 7900 XTX ausgelagert, mit rund 100 Tokens pro Sekunde. Einschränkung: MTP (Multi-Token Prediction) ist derzeit noch nicht mit Vision-Encodern kompatibel. Der Trick gilt als Workaround, zeigt bislang aber keine nennenswerten Nachteile.