Swift-1.5-Qwen3.8-27B im hipfire-Format: 2,2× schneller als GGUF auf AMD RX 7900 XT
Warum es zählt
AMD-Nutzer mit RX 7900 XT (20 GB VRAM) können mit dem hipfire-Runtime (v0.4.2.1+) und spekulativem Decoding via MTP-Head bis zu 52–59 tok/s bei 16–49K Kontext erreichen – deutlich mehr als llama.cpp bietet. Das Format ist inkompatibel mit llama.cpp und aktuell nur auf gfx1100 getestet.
— Lumeric Redaktion
End-to-End Laufzeit (6 Rust-Coding-Tasks, 10–20K-Token-Prompts) · Spitzenwert
237%
hipfire MQ4 (RX 7900 XT)
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Swift-1.5-Qwen3.8-27B im hipfire-Format: 2,2× schneller als GGUF auf AMD RX 7900 XT
Warum es zählt
AMD-Nutzer mit RX 7900 XT (20 GB VRAM) können mit dem hipfire-Runtime (v0.4.2.1+) und spekulativem Decoding via MTP-Head bis zu 52–59 tok/s bei 16–49K Kontext erreichen – deutlich mehr als llama.cpp bietet. Das Format ist inkompatibel mit llama.cpp und aktuell nur auf gfx1100 getestet.
— Lumeric Redaktion
End-to-End Laufzeit (6 Rust-Coding-Tasks, 10–20K-Token-Prompts) · Spitzenwert
237%
hipfire MQ4 (RX 7900 XT)
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.