SHADOW-250M: Eigenes quantisiertes LLM aus 30B Tokens, 60 MB Deployment
ToolsHugging Face
Warum es zählt
Das Modell zeigt, dass ein Solo-Projekt mit begrenztem Budget ein vollständiges LLM mit extrem niedrigem Speicherbedarf und CPU-only-Betrieb realisieren kann – relevant für Edge-Deployments ohne Cloud-Abhängigkeit oder GPU-Hardware.
— Lumeric Redaktion
60 MB
Deployment-Größe bei unter 2-Bit-Quantisierung
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
SHADOW-250M: Eigenes quantisiertes LLM aus 30B Tokens, 60 MB Deployment
ToolsHugging Face
Warum es zählt
Das Modell zeigt, dass ein Solo-Projekt mit begrenztem Budget ein vollständiges LLM mit extrem niedrigem Speicherbedarf und CPU-only-Betrieb realisieren kann – relevant für Edge-Deployments ohne Cloud-Abhängigkeit oder GPU-Hardware.
— Lumeric Redaktion
60 MB
Deployment-Größe bei unter 2-Bit-Quantisierung
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.