Qwen 3 27B auf AMD-Hardware: bis zu 51 t/s auf Radeon AI PRO R9700
CompaniesAMD
Warum es zählt
Für Entwickler, die lokal große Dense-Modelle betreiben, zeigen diese Werte, dass AMD-Hardware (Strix Halo APU und dedizierte Radeon-GPU) kompetitive Inferenzgeschwindigkeiten bei Qwen 3 27B erreicht. Optimale llama.cpp-Befehle für Q8, 256K Kontext und MTP werden noch gesucht.
— Lumeric Redaktion
Inferenz-Durchsatz (t/s) – Qwen 3 27B · Spitzenwert
51%
Radeon AI PRO R9700
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Qwen 3 27B auf AMD-Hardware: bis zu 51 t/s auf Radeon AI PRO R9700
CompaniesAMD
Warum es zählt
Für Entwickler, die lokal große Dense-Modelle betreiben, zeigen diese Werte, dass AMD-Hardware (Strix Halo APU und dedizierte Radeon-GPU) kompetitive Inferenzgeschwindigkeiten bei Qwen 3 27B erreicht. Optimale llama.cpp-Befehle für Q8, 256K Kontext und MTP werden noch gesucht.
— Lumeric Redaktion
Inferenz-Durchsatz (t/s) – Qwen 3 27B · Spitzenwert
51%
Radeon AI PRO R9700
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.