QUASAR 4-bit QAT Checkpoints für Qwen3.5, Gemma 4 und Muse Glimmer
Warum es zählt
Entwickler erhalten drop-in-kompatible 4-bit-Modelle in Standardformaten (vLLM, llama.cpp, Ollama, LM Studio) ohne Custom-Kernels, die auf Benchmarks wie GPQA-Diamond und AIME'25 teilweise über der BF16-Baseline liegen. Gemma 4 E4B erzielt auf H100 zusätzlich +36% Batch-Durchsatz.
— Lumeric Redaktion
KL-Divergenz zu BF16 (niedriger = besser) · Spitzenwert
0.0183%
Muse Glimmer 30B QUASAR NVFP4
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
QUASAR 4-bit QAT Checkpoints für Qwen3.5, Gemma 4 und Muse Glimmer
Warum es zählt
Entwickler erhalten drop-in-kompatible 4-bit-Modelle in Standardformaten (vLLM, llama.cpp, Ollama, LM Studio) ohne Custom-Kernels, die auf Benchmarks wie GPQA-Diamond und AIME'25 teilweise über der BF16-Baseline liegen. Gemma 4 E4B erzielt auf H100 zusätzlich +36% Batch-Durchsatz.
— Lumeric Redaktion
KL-Divergenz zu BF16 (niedriger = besser) · Spitzenwert
0.0183%
Muse Glimmer 30B QUASAR NVFP4
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.