Ijah: Neue Inference-Engine für Qwen 3.8 Flash Next auf M5 Mac mit 128 GB RAM
ToolsQwen
Warum es zählt
Für Nutzer von M5-Max-Macs mit 128 GB RAM ermöglicht Ijah mit 5b-6/8b-Quantisierung eine etwa 4–5× geringere KL-Divergenz zur bf16-Referenz als oQ4e – mehr Qualität bei kaum reduzierter Geschwindigkeit gegenüber oMLX. Mit DFlash2-Drafter sind ~120 tok/s erreichbar.
— Lumeric Redaktion
~100 tok/s
Decode-Geschwindigkeit auf M5 Max
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
Ijah: Neue Inference-Engine für Qwen 3.8 Flash Next auf M5 Mac mit 128 GB RAM
ToolsQwen
Warum es zählt
Für Nutzer von M5-Max-Macs mit 128 GB RAM ermöglicht Ijah mit 5b-6/8b-Quantisierung eine etwa 4–5× geringere KL-Divergenz zur bf16-Referenz als oQ4e – mehr Qualität bei kaum reduzierter Geschwindigkeit gegenüber oMLX. Mit DFlash2-Drafter sind ~120 tok/s erreichbar.
— Lumeric Redaktion
~100 tok/s
Decode-Geschwindigkeit auf M5 Max
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.