Open-Source-Kernel für AMD MI350X erreicht 78.498 tok/s mit Qwen3-35B-A3B
Warum es zählt
Entwickler, die AMD MI350X statt NVIDIA einsetzen, können mit diesem Open-Source-Kernel signifikant höhere Inferenz-Durchsätze erzielen. Der Kernel adressiert die bekannte Lücke im ROCm-Software-Stack und macht AMD-Hardware als kostengünstigere Alternative praktisch nutzbar.
— Lumeric Redaktion
Output Throughput (tok/s) – Qwen3.6-35B-A3B auf AMD MI350X · Spitzenwert
11161%
1× MI350X
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
Open-Source-Kernel für AMD MI350X erreicht 78.498 tok/s mit Qwen3-35B-A3B
Warum es zählt
Entwickler, die AMD MI350X statt NVIDIA einsetzen, können mit diesem Open-Source-Kernel signifikant höhere Inferenz-Durchsätze erzielen. Der Kernel adressiert die bekannte Lücke im ROCm-Software-Stack und macht AMD-Hardware als kostengünstigere Alternative praktisch nutzbar.
— Lumeric Redaktion
Output Throughput (tok/s) – Qwen3.6-35B-A3B auf AMD MI350X · Spitzenwert
11161%
1× MI350X
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.