DeepSeek V4.1 Flash mit 2,61 bpw: 26 t/s auf zwei RTX 3090 mit dsx-Engine
ToolsDeepSeek
Warum es zählt
Die 2,6-bpw-Quantisierung schlägt bestehende 2,03- und 2,5-bpw-Builds in KL-Divergenz und Perplexity deutlich und macht das große MoE-Modell auf Consumer-Hardware mit 48 GB VRAM alltagstauglich für Coding- und Agenten-Tasks.
— Lumeric Redaktion
Perplexity (DeepSeek V4.1 Flash, verschiedene bpw-Quants) · Spitzenwert
8.56%
FP8/FP4 Teacher
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
DeepSeek V4.1 Flash mit 2,61 bpw: 26 t/s auf zwei RTX 3090 mit dsx-Engine
ToolsDeepSeek
Warum es zählt
Die 2,6-bpw-Quantisierung schlägt bestehende 2,03- und 2,5-bpw-Builds in KL-Divergenz und Perplexity deutlich und macht das große MoE-Modell auf Consumer-Hardware mit 48 GB VRAM alltagstauglich für Coding- und Agenten-Tasks.
— Lumeric Redaktion
Perplexity (DeepSeek V4.1 Flash, verschiedene bpw-Quants) · Spitzenwert
8.56%
FP8/FP4 Teacher
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.