DeepSeek V4 Flash erreicht 32 tok/s auf AMD Ryzen AI MAX+ 395
ToolsDeepSeek
Warum es zählt
Mit dem eigens entwickelten ROCmFPX-Mixed-Precision-Format (2,88 bit/Parameter, 102,3 GB) lässt sich ein 284B-Modell auf Consumer-Hardware mit 128 GB Unified Memory betreiben. Das zeigt einen konkreten Weg für On-Device-Inference großer MoE-Modelle auf AMD-Systemen ohne dedizierte GPU.
— Lumeric Redaktion
LocalMaxxing – DeepSeek V4 Flash Decode (tok/s) · Spitzenwert
32%
ROCmFPX + DSpark (Ryzen AI MAX+ 395)
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
DeepSeek V4 Flash erreicht 32 tok/s auf AMD Ryzen AI MAX+ 395
ToolsDeepSeek
Warum es zählt
Mit dem eigens entwickelten ROCmFPX-Mixed-Precision-Format (2,88 bit/Parameter, 102,3 GB) lässt sich ein 284B-Modell auf Consumer-Hardware mit 128 GB Unified Memory betreiben. Das zeigt einen konkreten Weg für On-Device-Inference großer MoE-Modelle auf AMD-Systemen ohne dedizierte GPU.
— Lumeric Redaktion
LocalMaxxing – DeepSeek V4 Flash Decode (tok/s) · Spitzenwert
32%
ROCmFPX + DSpark (Ryzen AI MAX+ 395)
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.