Boole-1.7B: 1-Bit-Quantisierung von Qwen3-1.7B mit 247 MB Gewichten
CompaniesHugging Face
Warum es zählt
Boole-1.7B übertrifft das 1-Bit-Bonsai-1.7B und kommt nahe an das 1,58-Bit-Bonsai heran – bei drastisch reduzierter Modellgröße. Es läuft mit vLLM, llama.cpp und direkt im Browser, was Edge-Deployments ohne GPU realistisch macht.
— Lumeric Redaktion
13.9×
kleiner als BF16-Basismodell
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
Boole-1.7B: 1-Bit-Quantisierung von Qwen3-1.7B mit 247 MB Gewichten
CompaniesHugging Face
Warum es zählt
Boole-1.7B übertrifft das 1-Bit-Bonsai-1.7B und kommt nahe an das 1,58-Bit-Bonsai heran – bei drastisch reduzierter Modellgröße. Es läuft mit vLLM, llama.cpp und direkt im Browser, was Edge-Deployments ohne GPU realistisch macht.
— Lumeric Redaktion
13.9×
kleiner als BF16-Basismodell
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.