Llama.cpp B9406 behebt MTP-Vision-Absturz bei Qwen3.6-35B-A3B
Build B9406 von llama.cpp adressiert einen Absturz, der beim gleichzeitigen Einsatz von Multi-Token Prediction (MTP), Mixture-of-Experts (MoE) und Vision-Eingaben auftrat. Der Fehler manifestierte sich als GGML_ASSERT-Verletzung (i01 >= 0 && i01 < ne01) im Code-Pfad get_rows bzw. mtmd_helper_decode_image_chunk – konkret reproduzierbar mit dem Modell Qwen3.6-35B-A3B. Die Community hatte diesen Fix offenbar bereits länger erwartet; erste Nutzer berichteten kurz nach Veröffentlichung, den Build aktiv zu testen. Llama.cpp ist die meistgenutzte Laufzeitumgebung für quantisierte LLMs auf Consumer-Hardware, weshalb Stabilitätsfixes in solchen Kombinations-Szenarien direkte Auswirkungen auf eine breite Nutzerbasis haben.
- Bug: GGML_ASSERT-Crash in get_rows und mtmd_helper_decode_image_chunk bei MTP + MoE + Vision.
- Betroffenes Modell: Qwen3.6-35B-A3B (MoE-Architektur mit Vision-Support).
- Fix landet in Build B9406 des llama.cpp-Projekts.
- Community-Thread bittet aktiv um Testergebnisse nach dem Build.
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
Llama.cpp B9406 behebt MTP-Vision-Absturz bei Qwen3.6-35B-A3B
Build B9406 von llama.cpp adressiert einen Absturz, der beim gleichzeitigen Einsatz von Multi-Token Prediction (MTP), Mixture-of-Experts (MoE) und Vision-Eingaben auftrat. Der Fehler manifestierte sich als GGML_ASSERT-Verletzung (i01 >= 0 && i01 < ne01) im Code-Pfad get_rows bzw. mtmd_helper_decode_image_chunk – konkret reproduzierbar mit dem Modell Qwen3.6-35B-A3B. Die Community hatte diesen Fix offenbar bereits länger erwartet; erste Nutzer berichteten kurz nach Veröffentlichung, den Build aktiv zu testen. Llama.cpp ist die meistgenutzte Laufzeitumgebung für quantisierte LLMs auf Consumer-Hardware, weshalb Stabilitätsfixes in solchen Kombinations-Szenarien direkte Auswirkungen auf eine breite Nutzerbasis haben.
- Bug: GGML_ASSERT-Crash in get_rows und mtmd_helper_decode_image_chunk bei MTP + MoE + Vision.
- Betroffenes Modell: Qwen3.6-35B-A3B (MoE-Architektur mit Vision-Support).
- Fix landet in Build B9406 des llama.cpp-Projekts.
- Community-Thread bittet aktiv um Testergebnisse nach dem Build.
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.