Qwen3.8-Flash-Next Q2 auf M5 MacBook Air: 48,8 t/s mit SSD-Expert-Streaming
CompaniesDeepSeek
Warum es zählt
Cache-aware Routing und Desk-first Overlap halbieren SSD-Lesezugriffe und steigern den Durchsatz von 28,8 auf 48,8 t/s – bei minimalem Qualitätsverlust (LiveCodeBench: 17→16). Für Edge-Deployments auf Consumer-Hardware mit begrenztem RAM ist das ein relevanter Ansatz für große MoE-Modelle.
— Lumeric Redaktion
Decode-Durchsatz (t/s) auf M5 MacBook Air 24 GB · Spitzenwert
28.8%
Stock Splash 1.4.0
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
Qwen3.8-Flash-Next Q2 auf M5 MacBook Air: 48,8 t/s mit SSD-Expert-Streaming
CompaniesDeepSeek
Warum es zählt
Cache-aware Routing und Desk-first Overlap halbieren SSD-Lesezugriffe und steigern den Durchsatz von 28,8 auf 48,8 t/s – bei minimalem Qualitätsverlust (LiveCodeBench: 17→16). Für Edge-Deployments auf Consumer-Hardware mit begrenztem RAM ist das ein relevanter Ansatz für große MoE-Modelle.
— Lumeric Redaktion
Decode-Durchsatz (t/s) auf M5 MacBook Air 24 GB · Spitzenwert
28.8%
Stock Splash 1.4.0
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.