Xiaomi lädt MiMo-V2.5-DFlash still auf Hugging Face hoch
CompaniesHugging Face
Warum es zählt
Das Modell läuft auf 2×24-GB-GPUs mit ca. 8–10 Token/s; DFlash könnte das auf ~16–20 tk/s verdoppeln und damit 300B-Modelle für Consumer-Hardware deutlich attraktiver machen. Das separat veröffentlichte MTP-Modell könnte zudem speculative Decoding in llama.cpp ermöglichen, wo der integrierte MTP-Head bisher nicht funktioniert.
— Lumeric Redaktion
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
Xiaomi lädt MiMo-V2.5-DFlash still auf Hugging Face hoch
CompaniesHugging Face
Warum es zählt
Das Modell läuft auf 2×24-GB-GPUs mit ca. 8–10 Token/s; DFlash könnte das auf ~16–20 tk/s verdoppeln und damit 300B-Modelle für Consumer-Hardware deutlich attraktiver machen. Das separat veröffentlichte MTP-Modell könnte zudem speculative Decoding in llama.cpp ermöglichen, wo der integrierte MTP-Head bisher nicht funktioniert.
— Lumeric Redaktion
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.