Custom-Quant Qwen3.6-27B-Q8-CC schlägt Unsloth UD-Q8_K_XL bei Same-Top-P
Warum es zählt
Durch gezieltes Beibehalten von BF16 in Schichten mit hoher Outlier-Dichte lässt sich bei Qwen3.6-27B Qualität steigern und gleichzeitig Speicher sparen – die veröffentlichte llama-quantize-Rezeptur ermöglicht sofortige Nachnutzung.
— Lumeric Redaktion
Same Top-P (wiki.test.raw, -c 2048, --chunks 200) · Spitzenwert
98.358%
Qwen3.6-27B-Q8-CC (30,5 GB)
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
Custom-Quant Qwen3.6-27B-Q8-CC schlägt Unsloth UD-Q8_K_XL bei Same-Top-P
Warum es zählt
Durch gezieltes Beibehalten von BF16 in Schichten mit hoher Outlier-Dichte lässt sich bei Qwen3.6-27B Qualität steigern und gleichzeitig Speicher sparen – die veröffentlichte llama-quantize-Rezeptur ermöglicht sofortige Nachnutzung.
— Lumeric Redaktion
Same Top-P (wiki.test.raw, -c 2048, --chunks 200) · Spitzenwert
98.358%
Qwen3.6-27B-Q8-CC (30,5 GB)
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.