Qwen3.8-27B lokal: DFlash2-Drafter bringt 2,8× Speed-up auf RTX PRO 6000
Warum es zählt
DFlash2 als Drafter-Modell ist die schnellste Option für Qwen3.8-27B lokal und schlägt auch MTP und DSpark deutlich. NVFP4-Exporte sind nicht austauschbar: RadixArk (SGLang) erreicht 210 tok/s, Uncensored (SGLang) nur 146 – die Wahl des Exports ist damit genauso entscheidend wie die Engine-Wahl.
— Lumeric Redaktion
Speculative Decoding Throughput (Spec-Bench, 1 User, SGLang) · Spitzenwert
75%
Kein Drafter
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
Qwen3.8-27B lokal: DFlash2-Drafter bringt 2,8× Speed-up auf RTX PRO 6000
Warum es zählt
DFlash2 als Drafter-Modell ist die schnellste Option für Qwen3.8-27B lokal und schlägt auch MTP und DSpark deutlich. NVFP4-Exporte sind nicht austauschbar: RadixArk (SGLang) erreicht 210 tok/s, Uncensored (SGLang) nur 146 – die Wahl des Exports ist damit genauso entscheidend wie die Engine-Wahl.
— Lumeric Redaktion
Speculative Decoding Throughput (Spec-Bench, 1 User, SGLang) · Spitzenwert
75%
Kein Drafter
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.