Sabi-Noema: Effizienz-Finetuning von Qwen 3.8 27B mit 2× weniger Tokens
CompaniesHugging Face
Warum es zählt
Für Entwickler mit Consumer-GPUs (24 GB) ermöglicht Sabi-Noema-MLA bei q4_0 einen Kontext von ~534K statt ~150K Token gegenüber Basis-Qwen. Die rein auf Open-Source-Daten basierte Trainingspipeline macht die Modelle nachvollziehbar reproduzierbar.
— Lumeric Redaktion
8,4× kleinerer KV-Cache
Sabi-Noema-MLA FP8 vs. Basis-Qwen auf TB2.1
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
Sabi-Noema: Effizienz-Finetuning von Qwen 3.8 27B mit 2× weniger Tokens
CompaniesHugging Face
Warum es zählt
Für Entwickler mit Consumer-GPUs (24 GB) ermöglicht Sabi-Noema-MLA bei q4_0 einen Kontext von ~534K statt ~150K Token gegenüber Basis-Qwen. Die rein auf Open-Source-Daten basierte Trainingspipeline macht die Modelle nachvollziehbar reproduzierbar.
— Lumeric Redaktion
8,4× kleinerer KV-Cache
Sabi-Noema-MLA FP8 vs. Basis-Qwen auf TB2.1
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.