TTF-Optimizer: 27B-Modelle auf 24-GB-GPU mit 1 Byte pro Gewicht trainieren
CompaniesHugging Face
Warum es zählt
AI-Builder mit Consumer-Hardware können damit erstmals eigenständig 10–27B-Modelle trainieren und fine-tunen – ohne Cloud-GPUs. Die trainierten Modelle kosten ~1,6 Bit/Gewicht (≈6 GB bei 27B) und sind weiter trainierbar, allerdings mit Einbußen bei HumanEval (0,84 vs. 0,93 full precision).
— Lumeric Redaktion
HumanEval · Spitzenwert
0.84%
Qwen3.8 27B (TTF ternär)
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
TTF-Optimizer: 27B-Modelle auf 24-GB-GPU mit 1 Byte pro Gewicht trainieren
CompaniesHugging Face
Warum es zählt
AI-Builder mit Consumer-Hardware können damit erstmals eigenständig 10–27B-Modelle trainieren und fine-tunen – ohne Cloud-GPUs. Die trainierten Modelle kosten ~1,6 Bit/Gewicht (≈6 GB bei 27B) und sind weiter trainierbar, allerdings mit Einbußen bei HumanEval (0,84 vs. 0,93 full precision).
— Lumeric Redaktion
HumanEval · Spitzenwert
0.84%
Qwen3.8 27B (TTF ternär)
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.