LFM2.5-2.6B läuft mit 17 tok/s auf OnePlus 13 via purem CPU
ToolsQwen
Warum es zählt
Zeigt, dass ein 2.6B-Agenten-Modell mit 128K Kontext bereits heute auf Consumer-Android-Hardware praxistauglich läuft. Die winzige Engine (450 KB) unterstützt mehrere Architekturen (Qwen, Gemma u.a.) und könnte On-Device-Inferenz ohne Cloud erheblich vereinfachen.
— Lumeric Redaktion
17 tok/s
CPU-Inferenz auf OnePlus 13 (Q4_K_M)
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
LFM2.5-2.6B läuft mit 17 tok/s auf OnePlus 13 via purem CPU
ToolsQwen
Warum es zählt
Zeigt, dass ein 2.6B-Agenten-Modell mit 128K Kontext bereits heute auf Consumer-Android-Hardware praxistauglich läuft. Die winzige Engine (450 KB) unterstützt mehrere Architekturen (Qwen, Gemma u.a.) und könnte On-Device-Inferenz ohne Cloud erheblich vereinfachen.
— Lumeric Redaktion
17 tok/s
CPU-Inferenz auf OnePlus 13 (Q4_K_M)
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.