DeepSeek V4 Flash auf M2 Ultra: 141 GiB lossless, 25,8 t/s
CompaniesDeepSeek
Warum es zählt
Nutzer mit M2 Ultra können DeepSeek V4 Flash lossless mit mehr Kontextfenster als bei Standard-GGUFs betreiben und übertreffen dabei die M3-Ultra-Geschwindigkeit (16 t/s). Der Fork zeigt, dass hardwarespezifische llama.cpp-Anpassungen erhebliche Effizienzgewinne bringen können.
— Lumeric Redaktion
25,8 t/s
Inferenzgeschwindigkeit auf M2 Ultra (192 GB)
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
DeepSeek V4 Flash auf M2 Ultra: 141 GiB lossless, 25,8 t/s
CompaniesDeepSeek
Warum es zählt
Nutzer mit M2 Ultra können DeepSeek V4 Flash lossless mit mehr Kontextfenster als bei Standard-GGUFs betreiben und übertreffen dabei die M3-Ultra-Geschwindigkeit (16 t/s). Der Fork zeigt, dass hardwarespezifische llama.cpp-Anpassungen erhebliche Effizienzgewinne bringen können.
— Lumeric Redaktion
25,8 t/s
Inferenzgeschwindigkeit auf M2 Ultra (192 GB)
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.