AMD Lucebox schlägt Nvidia DGX Spark um 3,63× bei DeepSeek V4 Flash Decode
Warum es zählt
Für AI-Builder zeigt das Setup, dass heterogene Consumer-Hardware (GPU + APU mit großem Unified Memory) proprietäre Hochleistungssysteme bei Inferenz großer MoE-Modelle deutlich übertreffen kann. Aktuell noch experimentell (Q2, 16k Kontext); KVFlash für 64k–128k Kontext ist in Arbeit.
— Lumeric Redaktion
DeepSeek V4 Flash Decode Speed (tok/s) · Spitzenwert
51.1%
Lucebox (R9700 + Strix Halo)
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
AMD Lucebox schlägt Nvidia DGX Spark um 3,63× bei DeepSeek V4 Flash Decode
Warum es zählt
Für AI-Builder zeigt das Setup, dass heterogene Consumer-Hardware (GPU + APU mit großem Unified Memory) proprietäre Hochleistungssysteme bei Inferenz großer MoE-Modelle deutlich übertreffen kann. Aktuell noch experimentell (Q2, 16k Kontext); KVFlash für 64k–128k Kontext ist in Arbeit.
— Lumeric Redaktion
DeepSeek V4 Flash Decode Speed (tok/s) · Spitzenwert
51.1%
Lucebox (R9700 + Strix Halo)
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.