Clark Labs komprimiert Sana 1.6B Bildgenerator auf 374 MB via Ternär-Quantisierung
ToolsHugging Face
CompaniesHugging Face
Warum es zählt
Ein vollwertiger Text-to-Image-Transformer mit 1,6B Parametern passt damit in unter 400 MB, was den lokalen Betrieb auf Geräten mit wenig VRAM deutlich erleichtert. Das Modell ist drop-in-kompatibel mit Diffusers und Apache-2.0-lizenziert.
— Lumeric Redaktion
8.6× kleiner (374 MB)
vs. FP16-Baseline (3,21 GB)
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
- FORSCHUNGhuggingface.co3w
Llama-Mobile: 2,7-Bit-Quantisierung bringt Llama 3.2 11B auf 3,7 GB
- FORSCHUNGarxiv.org5d
AF1: Echte 1-Bit-Quantisierung für LLMs mit 2,5× Inferenz-Speedup
- FORSCHUNGarxiv.org1d
Byte-Modelle übertreffen Token-Modelle bei hohem Compute durch Distillation
- FORSCHUNGarxiv.org1w
ViT-Kompression für Pflanzenkrankheitserkennung auf Edge-Geräten
Clark Labs komprimiert Sana 1.6B Bildgenerator auf 374 MB via Ternär-Quantisierung
ToolsHugging Face
CompaniesHugging Face
Warum es zählt
Ein vollwertiger Text-to-Image-Transformer mit 1,6B Parametern passt damit in unter 400 MB, was den lokalen Betrieb auf Geräten mit wenig VRAM deutlich erleichtert. Das Modell ist drop-in-kompatibel mit Diffusers und Apache-2.0-lizenziert.
— Lumeric Redaktion
8.6× kleiner (374 MB)
vs. FP16-Baseline (3,21 GB)
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
- FORSCHUNGhuggingface.co3w
Llama-Mobile: 2,7-Bit-Quantisierung bringt Llama 3.2 11B auf 3,7 GB
- FORSCHUNGarxiv.org5d
AF1: Echte 1-Bit-Quantisierung für LLMs mit 2,5× Inferenz-Speedup
- FORSCHUNGarxiv.org1d
Byte-Modelle übertreffen Token-Modelle bei hohem Compute durch Distillation
- FORSCHUNGarxiv.org1w
ViT-Kompression für Pflanzenkrankheitserkennung auf Edge-Geräten