wird geladen

Silia-v2: 0,5M-Parameter-Modell auf HellaSwag, PIQA und LAMBADA benchmarkt · Lumeric

Feed
Digest
Lounge
Stash
Profil

Beitrag

FORSCHUNG

reddit.com· r/LocalLLaMA1mo

Silia-v2: 0,5M-Parameter-Modell auf HellaSwag, PIQA und LAMBADA benchmarkt

ToolsGPT Qwen DeepSeek Hugging Face

CompaniesDeepSeek Hugging Face

Warum es zählt

Silia-v2 kombiniert DeepSeek MLA, Qwen HydraHead und Apples Attention Free Transformer, um den 2–2,5-fachen Compute-Overhead der Vorgängerversion zu beseitigen. Die Architektur zeigt, wie Tiny-Scale-Modelle mit modernen Effizienz-Techniken optimiert werden können.

— Lumeric Redaktion

Quelle lesenreddit.com

Foundation Modelle Open Source Evals Benchmarks

Frag die KI zum Artikel

Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.

Verwandte Beiträge

LAUNCHreddit.com3w
SupraLabs veröffentlicht Supra2-Medium-Base: 25M-Parameter-Modell konkurriert mit 50M-Vorgänger
LAUNCHreddit.com2d
Aurora 1.0-150M: Kleines Open-Source-Sprachmodell auf GPT-2-Small-Niveau
LAUNCHreddit.com3w
SHADOW-250M: Eigenes quantisiertes LLM aus 30B Tokens, 60 MB Deployment
MEINUNGreddit.com1w
Diskussion: Kleine smarte Modelle vs. große effiziente Modelle für lokale LLMs

FORSCHUNG

reddit.com· r/LocalLLaMA1mo

Silia-v2: 0,5M-Parameter-Modell auf HellaSwag, PIQA und LAMBADA benchmarkt

ToolsGPT Qwen DeepSeek Hugging Face

CompaniesDeepSeek Hugging Face

Warum es zählt

Silia-v2 kombiniert DeepSeek MLA, Qwen HydraHead und Apples Attention Free Transformer, um den 2–2,5-fachen Compute-Overhead der Vorgängerversion zu beseitigen. Die Architektur zeigt, wie Tiny-Scale-Modelle mit modernen Effizienz-Techniken optimiert werden können.

— Lumeric Redaktion

Frag die KI zum Artikel

Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.

Quelle lesenreddit.com

Themen

Foundation Modelle Open Source Evals Benchmarks

Reaktion

Speichern

Verwandte Beiträge

LAUNCHreddit.com3w
SupraLabs veröffentlicht Supra2-Medium-Base: 25M-Parameter-Modell konkurriert mit 50M-Vorgänger
LAUNCHreddit.com2d
Aurora 1.0-150M: Kleines Open-Source-Sprachmodell auf GPT-2-Small-Niveau
LAUNCHreddit.com3w
SHADOW-250M: Eigenes quantisiertes LLM aus 30B Tokens, 60 MB Deployment
MEINUNGreddit.com1w
Diskussion: Kleine smarte Modelle vs. große effiziente Modelle für lokale LLMs