Nanbeige4.3-33B als quantisierte GGUF-Varianten verfügbar
Warum es zählt
Die IQ4_XS-Quant mit 20,3 GB ermöglicht den Betrieb des 33B-Modells auf Consumer-Hardware mit 32 GB VRAM bei nur minimalem Qualitätsverlust (92 % vs. BF16), was lokales Inferencing deutlich zugänglicher macht.
— Lumeric Redaktion
92.0% vs. BF16
Top-1-Qualität der IQ4_XS-Quantisierung
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
Nanbeige4.3-33B als quantisierte GGUF-Varianten verfügbar
Warum es zählt
Die IQ4_XS-Quant mit 20,3 GB ermöglicht den Betrieb des 33B-Modells auf Consumer-Hardware mit 32 GB VRAM bei nur minimalem Qualitätsverlust (92 % vs. BF16), was lokales Inferencing deutlich zugänglicher macht.
— Lumeric Redaktion
92.0% vs. BF16
Top-1-Qualität der IQ4_XS-Quantisierung
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.