Llama.cpp mit ROCm 7.14 auf Radeon 780m: Workaround für Stabilitätsprobleme
CompaniesAMD
Warum es zählt
Für lokale LLM-Nutzer mit AMD-iGPUs ist ROCm trotz Instabilität via Workaround deutlich schneller als Vulkan (100 t/s vs. ~60 t/s). Die Umgebungsvariable AMD_SERIALIZE_KERNEL=3 kann sofort eingesetzt werden, bis ein offizieller Fix verfügbar ist.
— Lumeric Redaktion
Llama.cpp Preprocessing Speed (Radeon 780m) · Spitzenwert
250%
ROCm 7.14 (ohne Workaround)
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
Llama.cpp mit ROCm 7.14 auf Radeon 780m: Workaround für Stabilitätsprobleme
CompaniesAMD
Warum es zählt
Für lokale LLM-Nutzer mit AMD-iGPUs ist ROCm trotz Instabilität via Workaround deutlich schneller als Vulkan (100 t/s vs. ~60 t/s). Die Umgebungsvariable AMD_SERIALIZE_KERNEL=3 kann sofort eingesetzt werden, bis ein offizieller Fix verfügbar ist.
— Lumeric Redaktion
Llama.cpp Preprocessing Speed (Radeon 780m) · Spitzenwert
250%
ROCm 7.14 (ohne Workaround)
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.