Qwen3.8-Flash-Next lokal auf AMD 7900 XTX: 500k Kontext mit 105–160 tok/s
Warum es zählt
Zeigt, dass sehr große MoE-Modelle mit 500k Kontext auf Consumer-AMD-Hardware ohne NVIDIA-GPU alltagstauglich laufen. Der `preserve_thinking`-Bug (Reasoning-Echo nach 266/13.000 Turns) ist ein konkreter Fallstrick für lokale Flash-Next-Deployments.
— Lumeric Redaktion
105–160 tok/s
Decode-Speed bei 500k Kontext auf AMD 7900 XTX
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
Qwen3.8-Flash-Next lokal auf AMD 7900 XTX: 500k Kontext mit 105–160 tok/s
Warum es zählt
Zeigt, dass sehr große MoE-Modelle mit 500k Kontext auf Consumer-AMD-Hardware ohne NVIDIA-GPU alltagstauglich laufen. Der `preserve_thinking`-Bug (Reasoning-Echo nach 266/13.000 Turns) ist ein konkreter Fallstrick für lokale Flash-Next-Deployments.
— Lumeric Redaktion
105–160 tok/s
Decode-Speed bei 500k Kontext auf AMD 7900 XTX
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.