KLD als Qualitätsmetrik für Quantisierung in Silent Zone unbrauchbar
Die Untersuchung analysiert systematisch, wann KL-Divergenz (KLD) als Qualitätsmetrik für quantisierte Modelle versagt. Kernbefund: KLD misst zuverlässig, wie stark ein quantisiertes Modell vom BF16-Referenzmodell abweicht – aber diese Abweichung sagt innerhalb der sogenannten „Silent Zone" nichts über die tatsächliche Modellqualität aus. Das liegt daran, dass KLD keine Richtungsinformation trägt: Ein Quant, der Fehler des BF16-Modells korrigiert, erhält genauso eine schlechtere KLD-Bewertung wie einer, der neue Fehler einführt. Innerhalb der Silent Zone korreliert KLD mit +0,94 mit dem sogenannten Disagreement Volume (wie viele Benchmark-Ergebnisse sich gegenüber BF16 ändern), aber mit ρ = 0,00 mit der tatsächlichen Qualität. Erst in der „Lossy Zone" – oberhalb eines bestimmten KLD-Schwellenwerts – wird KLD ein nützliches Signal, dort erreicht die Korrelation mit der Qualitätsrichtung ρ = −0,67. Das Team testete 14 Varianten von Fidelity-Metriken, darunter verschiedene Datensätze, Kontextlängen, Response-only-Scoring, Aggregationsmethoden, Top-k-KLD, Perplexität und Top-Token-Agreement – keine davon lieferte ein zuverlässiges Ranking innerhalb der Silent Zone. Die Ergebnisse wurden anhand eines Chaos-Graphen mit 28 quantisierten Modellen visualisiert und zusätzlich anhand von Devstral repliziert; Durchsatz-Messungen erfolgten auf einer RTX 6000.
- 14 Fidelity-Metrik-Varianten getestet (u.a. Top-k-KLD, Perplexität, Top-Token-Agreement) – keine funktioniert zuverlässig in der Silent Zone.
- KLD korreliert innerhalb der Silent Zone mit ρ = −0,13 mit der Richtung der Qualitätsveränderung – statistisch bedeutungslos.
- BPW (Bits per Weight) eignet sich nur zur Abschätzung der Modellgröße, nicht zum Ranking gleichgroßer Quants nach Tokens-per-Second.
- Durchsatz-Messungen wurden konkret auf einer RTX 6000 durchgeführt; Format, Kernel, Tensor-Shapes und Inference-Implementierung verändern die Reihenfolge.
- Die Ergebnisse wurden in einem dreiteiligen Blog sowie einem Preprint mit vollständiger Methodik und Devstral-Replikation veröffentlicht.
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
- MEINUNGforum.level1techs.com3w
Warum lokale LLMs schlechter wirken als sie sind: Inferenz-Fallstricke erklärt
- FORSCHUNGarxiv.org4d
Divergenzmetriken statt Accuracy: bessere Evaluierung quantisierter LLMs
- FORSCHUNGarxiv.org1w
Knapp beieinander liegende LLM-Rankings kippen bei Benchmark-Umgewichtung
- FORSCHUNGarxiv.org3w
Lost in Aggregation: Warum Benchmarks einzigartige Modellstärken übersehen
KLD als Qualitätsmetrik für Quantisierung in Silent Zone unbrauchbar
Die Untersuchung analysiert systematisch, wann KL-Divergenz (KLD) als Qualitätsmetrik für quantisierte Modelle versagt. Kernbefund: KLD misst zuverlässig, wie stark ein quantisiertes Modell vom BF16-Referenzmodell abweicht – aber diese Abweichung sagt innerhalb der sogenannten „Silent Zone" nichts über die tatsächliche Modellqualität aus. Das liegt daran, dass KLD keine Richtungsinformation trägt: Ein Quant, der Fehler des BF16-Modells korrigiert, erhält genauso eine schlechtere KLD-Bewertung wie einer, der neue Fehler einführt. Innerhalb der Silent Zone korreliert KLD mit +0,94 mit dem sogenannten Disagreement Volume (wie viele Benchmark-Ergebnisse sich gegenüber BF16 ändern), aber mit ρ = 0,00 mit der tatsächlichen Qualität. Erst in der „Lossy Zone" – oberhalb eines bestimmten KLD-Schwellenwerts – wird KLD ein nützliches Signal, dort erreicht die Korrelation mit der Qualitätsrichtung ρ = −0,67. Das Team testete 14 Varianten von Fidelity-Metriken, darunter verschiedene Datensätze, Kontextlängen, Response-only-Scoring, Aggregationsmethoden, Top-k-KLD, Perplexität und Top-Token-Agreement – keine davon lieferte ein zuverlässiges Ranking innerhalb der Silent Zone. Die Ergebnisse wurden anhand eines Chaos-Graphen mit 28 quantisierten Modellen visualisiert und zusätzlich anhand von Devstral repliziert; Durchsatz-Messungen erfolgten auf einer RTX 6000.
- 14 Fidelity-Metrik-Varianten getestet (u.a. Top-k-KLD, Perplexität, Top-Token-Agreement) – keine funktioniert zuverlässig in der Silent Zone.
- KLD korreliert innerhalb der Silent Zone mit ρ = −0,13 mit der Richtung der Qualitätsveränderung – statistisch bedeutungslos.
- BPW (Bits per Weight) eignet sich nur zur Abschätzung der Modellgröße, nicht zum Ranking gleichgroßer Quants nach Tokens-per-Second.
- Durchsatz-Messungen wurden konkret auf einer RTX 6000 durchgeführt; Format, Kernel, Tensor-Shapes und Inference-Implementierung verändern die Reihenfolge.
- Die Ergebnisse wurden in einem dreiteiligen Blog sowie einem Preprint mit vollständiger Methodik und Devstral-Replikation veröffentlicht.
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
- MEINUNGforum.level1techs.com3w
Warum lokale LLMs schlechter wirken als sie sind: Inferenz-Fallstricke erklärt
- FORSCHUNGarxiv.org4d
Divergenzmetriken statt Accuracy: bessere Evaluierung quantisierter LLMs
- FORSCHUNGarxiv.org1w
Knapp beieinander liegende LLM-Rankings kippen bei Benchmark-Umgewichtung
- FORSCHUNGarxiv.org3w
Lost in Aggregation: Warum Benchmarks einzigartige Modellstärken übersehen