Für lokale Inferenz mit großen MoE-Modellen wie Qwen3 35B A3B ist der KV-Cache ein kritischer Speicherfaktor. Die Diskussion liefert praktische Einschätzungen, ab welcher Quantisierungsstufe der Trade-off zwischen VRAM-Einsparung und Qualitätsverlust kippt.