Strata EXL3 AMD-Fork: 10–24% mehr Decode-Speed auf Radeon GPUs
Warum es zählt
AMD-Nutzer mit RX 7900 XTX können damit Q5-Qualität (4.05 bpw EXL3) mit bis zu 76 tok/s auf zwei GPUs oder 59 tok/s auf einer GPU mit CPU-Assistenz erreichen – ohne Nvidia-Hardware. Optionales Expert-Repacking verbessert zusätzlich die CPU-Offload-Effizienz bei großen MoE-Modellen wie MiMo V2.6 Flash.
— Lumeric Redaktion
EXL3 Decode-Speed (tok/s, Qwen3.8-Flash-Next, 2× RX 7900 XTX) · Spitzenwert
78.27%
3.05 bpw – CODE (vorher)
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
Strata EXL3 AMD-Fork: 10–24% mehr Decode-Speed auf Radeon GPUs
Warum es zählt
AMD-Nutzer mit RX 7900 XTX können damit Q5-Qualität (4.05 bpw EXL3) mit bis zu 76 tok/s auf zwei GPUs oder 59 tok/s auf einer GPU mit CPU-Assistenz erreichen – ohne Nvidia-Hardware. Optionales Expert-Repacking verbessert zusätzlich die CPU-Offload-Effizienz bei großen MoE-Modellen wie MiMo V2.6 Flash.
— Lumeric Redaktion
EXL3 Decode-Speed (tok/s, Qwen3.8-Flash-Next, 2× RX 7900 XTX) · Spitzenwert
78.27%
3.05 bpw – CODE (vorher)
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.