DFlash2 für Qwen3.8-Flash-Next: +17% Dekodiergeschwindigkeit im Schnitt
Warum es zählt
Für lokale Inferenz auf Apple Silicon (M5 Max) bringt DFlash2 messbare Geschwindigkeitsgewinne bei Code und Listen (+18–39%), bei gleichzeitig stark reduzierten Modellgrößen für den Draft-Head. Bei sehr langen Kontexten (25K+) nivelliert sich der Vorteil gegenüber MTP.
— Lumeric Redaktion
Speculative Decoding Throughput (Q4_K_XL, Apple Silicon M5 Max) · Spitzenwert
95.1%
DFlash2 – Code
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
DFlash2 für Qwen3.8-Flash-Next: +17% Dekodiergeschwindigkeit im Schnitt
Warum es zählt
Für lokale Inferenz auf Apple Silicon (M5 Max) bringt DFlash2 messbare Geschwindigkeitsgewinne bei Code und Listen (+18–39%), bei gleichzeitig stark reduzierten Modellgrößen für den Draft-Head. Bei sehr langen Kontexten (25K+) nivelliert sich der Vorteil gegenüber MTP.
— Lumeric Redaktion
Speculative Decoding Throughput (Q4_K_XL, Apple Silicon M5 Max) · Spitzenwert
95.1%
DFlash2 – Code
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.