Reddit-Nutzer /u/DiscipleofDeceit666 veröffentlichte einen angepassten llama.cpp-Build speziell für AMD-GPUs der RDNA2-Generation (gfx1030/gfx1031). Das zentrale Problem: Stock-llama.cpp-Releases crashen auf dieser Hardware beim Versuch, Flash Attention über ROCm zu aktivieren – ausgelöst durch einen fehlgeschlagenen Assert (`GGML_ASSERT(max_blocks_per_sm > 0)`), da `hipOccupancyMaxActiveBlocksPerMultiprocessor` fälschlicherweise 0 zurückgibt. Der Patch umgeht diesen Assert und ersetzt den Crash durch ein Diagnose-Log. Das Ergebnis: Während der Vulkan-Pfad ca. 30 tok/s liefert und ROCm im Stock-Build gar nicht läuft, erreicht der gepatchte Build 70–80 tok/s mit Qwen3.6 35B und 27B. Der Build nutzt Multi-Token Prediction (MTP) als Entwurfsmethode (`--spec-type draft-mtp`) und ist über GitHub verfügbar. Einschränkungen bestehen: Gemma crasht bei größeren Kontexten, Deepseek läuft sehr langsam. Der Autor gibt explizit an, dass lokale KI auf ROCm generell instabil sein kann.