Community-Entwickler veröffentlicht SHARD: 40M-Parameter-LLM für IoT-Aufgaben
Crownelius, bekannt durch das Opus-Distill-Dataset, hat im Rahmen des Community-Projekts Compact AI sein erstes selbst entwickeltes Sprachmodell von Grund auf gebaut. Das Modell trägt den Namen SHARD (intern auch „Scamp" genannt) und umfasst 40 Millionen Parameter. Es ist bewusst als „mal-formed LLM" deklariert – also kein poliertes Produktionsmodell, sondern ein Lernprojekt mit explizit begrenztem Anspruch. Der Entwickler beschreibt eine Forschungsphase zu sogenannten Atomic Models, bevor er zur Compact-AI-Gruppe stieß. Das übergeordnete Ziel ist die Entwicklung einer Serie von Tiny-LLMs, die zuverlässig auf ressourcenbeschränkten IoT-Geräten laufen können. Das Modell ist öffentlich über die Hugging-Face-Organisation CompactAI-O zugänglich.
- Entwickler ist Autor des bekannten Opus-Distill-Datasets auf Hugging Face
- SHARD hat 40M Parameter und wird als experimentelles, unvollständig optimiertes Modell beschrieben
- Veröffentlichung erfolgt unter der HF-Organisation CompactAI-O
- Projekt-Kontext: Compact AI, eine Community rund um sehr kleine Sprachmodelle
- Langfristiges Ziel: kohärente LLM-Inferenz direkt auf IoT-Hardware
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
- LAUNCHreddit.com1w
SupraLabs gegründet: Open-Source-Small-Language-Models ab 2M Parametern
- LAUNCHreddit.com3w
Flare-TTS 28M: Open-Source-TTS-Modell vom Community-Entwickler
- LAUNCHreddit.com2w
TinyHarness: Speicherschonende lokale AI-Harness als Alternative zu pi und opencode
- FORSCHUNGarxiv.org13h
Apple veröffentlicht Foundation-Sprachmodelle für Apple Intelligence
Community-Entwickler veröffentlicht SHARD: 40M-Parameter-LLM für IoT-Aufgaben
Crownelius, bekannt durch das Opus-Distill-Dataset, hat im Rahmen des Community-Projekts Compact AI sein erstes selbst entwickeltes Sprachmodell von Grund auf gebaut. Das Modell trägt den Namen SHARD (intern auch „Scamp" genannt) und umfasst 40 Millionen Parameter. Es ist bewusst als „mal-formed LLM" deklariert – also kein poliertes Produktionsmodell, sondern ein Lernprojekt mit explizit begrenztem Anspruch. Der Entwickler beschreibt eine Forschungsphase zu sogenannten Atomic Models, bevor er zur Compact-AI-Gruppe stieß. Das übergeordnete Ziel ist die Entwicklung einer Serie von Tiny-LLMs, die zuverlässig auf ressourcenbeschränkten IoT-Geräten laufen können. Das Modell ist öffentlich über die Hugging-Face-Organisation CompactAI-O zugänglich.
- Entwickler ist Autor des bekannten Opus-Distill-Datasets auf Hugging Face
- SHARD hat 40M Parameter und wird als experimentelles, unvollständig optimiertes Modell beschrieben
- Veröffentlichung erfolgt unter der HF-Organisation CompactAI-O
- Projekt-Kontext: Compact AI, eine Community rund um sehr kleine Sprachmodelle
- Langfristiges Ziel: kohärente LLM-Inferenz direkt auf IoT-Hardware
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
- LAUNCHreddit.com1w
SupraLabs gegründet: Open-Source-Small-Language-Models ab 2M Parametern
- LAUNCHreddit.com3w
Flare-TTS 28M: Open-Source-TTS-Modell vom Community-Entwickler
- LAUNCHreddit.com2w
TinyHarness: Speicherschonende lokale AI-Harness als Alternative zu pi und opencode
- FORSCHUNGarxiv.org13h
Apple veröffentlicht Foundation-Sprachmodelle für Apple Intelligence