Qwen3.8 27B Q2/Q3 vs. Qwen3.6 35B-A3B MoE auf 12 GB VRAM verglichen
Warum es zählt
Für lokale Setups mit 12 GB VRAM bietet Qwen3.6 35B-A3B MoE (Q4) das beste Speed-Quality-Verhältnis: 59 t/s bei vollständiger Korrektheit. Qwen3.8 Q2 läuft zwar flüssig (35 t/s), zeigt aber bereits Qualitätsverluste; Q3 ist mit 7,5 t/s für interaktive Nutzung kaum geeignet.
— Lumeric Redaktion
Sanity + Speed Test (llama.cpp, 12 GB VRAM, 4k ctx) · Spitzenwert
35.9%
Qwen3.8-27B Q2 dense
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
Qwen3.8 27B Q2/Q3 vs. Qwen3.6 35B-A3B MoE auf 12 GB VRAM verglichen
Warum es zählt
Für lokale Setups mit 12 GB VRAM bietet Qwen3.6 35B-A3B MoE (Q4) das beste Speed-Quality-Verhältnis: 59 t/s bei vollständiger Korrektheit. Qwen3.8 Q2 läuft zwar flüssig (35 t/s), zeigt aber bereits Qualitätsverluste; Q3 ist mit 7,5 t/s für interaktive Nutzung kaum geeignet.
— Lumeric Redaktion
Sanity + Speed Test (llama.cpp, 12 GB VRAM, 4k ctx) · Spitzenwert
35.9%
Qwen3.8-27B Q2 dense
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.