DeepSeek-V4.1-Flash auf 2× DGX Spark: 2.600+ tok/s Prefill, 322 tok/s Output
CompaniesDeepSeek
Warum es zählt
Der vollständig publizierte Stack zeigt konkret, wie Engram-Offload + spekulativer Drafter auf Consumer-GPUs die KV-Cache-Kapazität auf ~1,93M Tokens erweitert und Prefill-Geschwindigkeit gegenüber vergleichbaren 2×-Spark-Builds um bis zu 26 % steigert. Für On-Prem-Deployments relevant: Code und Rohdaten sind öffentlich verfügbar.
— Lumeric Redaktion
sparkDash Prefill Benchmark (DeepSeek-V4.1-Flash) · Spitzenwert
2827%
Dieser Build (4K)
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
DeepSeek-V4.1-Flash auf 2× DGX Spark: 2.600+ tok/s Prefill, 322 tok/s Output
CompaniesDeepSeek
Warum es zählt
Der vollständig publizierte Stack zeigt konkret, wie Engram-Offload + spekulativer Drafter auf Consumer-GPUs die KV-Cache-Kapazität auf ~1,93M Tokens erweitert und Prefill-Geschwindigkeit gegenüber vergleichbaren 2×-Spark-Builds um bis zu 26 % steigert. Für On-Prem-Deployments relevant: Code und Rohdaten sind öffentlich verfügbar.
— Lumeric Redaktion
sparkDash Prefill Benchmark (DeepSeek-V4.1-Flash) · Spitzenwert
2827%
Dieser Build (4K)
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.