Der Reddit-Nutzer erazortt hat systematisch gemessen, wie stark sich eine BF16→Q8-Quantisierung des KV-Cache bei DeepSeek V4 Flash auf die Modellausgaben auswirkt. Die Kernmetrik KL-Divergenz (KLD) misst, wie weit die Token-Wahrscheinlichkeitsverteilung nach der Quantisierung von der Originalverteilung abweicht – je kleiner, desto verlustfreier. Bei DeepSeek V4 Flash liegt die mittlere KLD bei 0,146, während das Vergleichsmodell Qwen 397B nur 0,004 erreicht – ein Faktor von etwa 41. Besonders auffällig sind die Extremwerte: Die maximale KLD beträgt bei DS4F 12,47, bei einzelnen Tokens wechselt also das wahrscheinlichste Token vollständig. Der RMS-Wert der Token-Wahrscheinlichkeitsverschiebung (Δp) liegt bei DS4F bei 11,9 %, verglichen mit nur 2,0 % bei Qwen 397B. Die PPL-Ratio (Perplexität quantisiert vs. BF16) liegt bei DS4F bei 1,0064 – für sich genommen klein, aber in Kombination mit den KLD-Zahlen ein klares Warnsignal. Die Ursache wird im Post nicht abschließend geklärt, dürfte aber mit der spezifischen Architektur von DeepSeek V4 Flash zusammenhängen, vermutlich dem MLA-Mechanismus (Multi-Head Latent Attention), der KV-Einträge anders strukturiert als Standard-Multi-Head-Attention. Die Empfehlung des Autors ist eindeutig: BF16 KV-Cache beibehalten oder die Qualitätsverluste bewusst in Kauf nehmen.