Clover-Support für llama.cpp: Hybrid-MoE mit Block Diffusion
Warum es zählt
Clover bringt eine neue Hybrid-Architektur aus Gated DeltaNet und Mixture-of-Experts mit bidirektionaler Aufmerksamkeit und 128K Kontext in llama.cpp. Lokale Nutzer könnten damit ein effizientes 35B-Modell mit nur ~3B aktiven Parametern pro Token lokal betreiben.
— Lumeric Redaktion
35B / ~3B aktiv
Gesamtparameter / aktiv pro Token
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
Clover-Support für llama.cpp: Hybrid-MoE mit Block Diffusion
Warum es zählt
Clover bringt eine neue Hybrid-Architektur aus Gated DeltaNet und Mixture-of-Experts mit bidirektionaler Aufmerksamkeit und 128K Kontext in llama.cpp. Lokale Nutzer könnten damit ein effizientes 35B-Modell mit nur ~3B aktiven Parametern pro Token lokal betreiben.
— Lumeric Redaktion
35B / ~3B aktiv
Gesamtparameter / aktiv pro Token
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.