Saber: Rust-Inferenz-Engine für AMD R9700 erreicht 6.645 tok/s Prefill
ToolsQwen
CompaniesAMD
Warum es zählt
Für Entwickler mit AMD-Hardware bietet Saber laut BetterBench höhere Durchsatzwerte als bisher verfügbare Engines für Qwen3.8 27b. Die Rust-Basis und TP-Unterstützung bis 4 GPUs können lokale AMD-Setups deutlich beschleunigen.
— Lumeric Redaktion
6.645 tok/s Prefill
Qwen3.8 27b auf 2× AMD R9700
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
Saber: Rust-Inferenz-Engine für AMD R9700 erreicht 6.645 tok/s Prefill
ToolsQwen
CompaniesAMD
Warum es zählt
Für Entwickler mit AMD-Hardware bietet Saber laut BetterBench höhere Durchsatzwerte als bisher verfügbare Engines für Qwen3.8 27b. Die Rust-Basis und TP-Unterstützung bis 4 GPUs können lokale AMD-Setups deutlich beschleunigen.
— Lumeric Redaktion
6.645 tok/s Prefill
Qwen3.8 27b auf 2× AMD R9700
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.