Unsloth veröffentlicht Kimi K3 GGUFs – MXFP4-Variante mit 1,5 TB
Warum es zählt
Wer Kimi K3 lokal betreiben will, kann nun auf Unsloth-GGUFs zurückgreifen. Die MXFP4-Quantisierung mit 1,5 TB setzt jedoch extreme Hardware voraus; weitere kleinere Quants dürften folgen.
— Lumeric Redaktion
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
Unsloth veröffentlicht Kimi K3 GGUFs – MXFP4-Variante mit 1,5 TB
Warum es zählt
Wer Kimi K3 lokal betreiben will, kann nun auf Unsloth-GGUFs zurückgreifen. Die MXFP4-Quantisierung mit 1,5 TB setzt jedoch extreme Hardware voraus; weitere kleinere Quants dürften folgen.
— Lumeric Redaktion
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.