Benchmark: Qwen 3.8 27B auf macOS – MTPLX schnellste Inference-Engine
Der Benchmark entstand aus einem fünftägigen, über 100 GPU-Stunden umfassenden Testprojekt eines Reddit-Nutzers, der systematisch 7 Inference-Engines für Qwen 3.8 27B auf einem Apple Mac Studio mit M2 Max und 96 GB Unified Memory verglich. Als Testmodell diente jeweils ein 8-Bit-Quant (GGUF oder MLX) mit unkomprimiertem KV-Cache, vollem 262k-Kontextfenster und dem offiziellen Qwen-Coding-Sampler. Der eigentliche Qualitätstest war kein synthetischer Benchmark, sondern ein vierphasiger agentic Coding-Auftrag – das Schreiben eines lauffähigen Bubble-Bobble-Klons –, der je Engine zweimal unter mittlerem und sehr hohem Reasoning-Aufwand (medium/xhigh) durchgeführt wurde. MTPLX erzielte mit Score 93 (xhigh) das beste Ergebnis und lieferte dabei 20–22 tok/s Decode-Geschwindigkeit sowie 109 t/s Prefill-Throughput. llama.cpp mit MTP-Erweiterung landete auf Platz zwei (Score 86, xhigh), brauchte dafür aber fast drei Stunden Wandzeit gegenüber gut zwei Stunden bei MTPLX. vllm-mlx fiel wegen unkontrollierter Thinking-Leakage – das rohe Chain-of-Thought landet ungetrennt im Ausgabefeld – trotz akzeptabler Geschwindigkeit auf den letzten Platz (Score 50–51). mlx-dspark DFlash2 im xhigh-Modus zeigte eine kritische Anomalie: Das Modell erzeugte 226.000 Thinking-Tokens, ohne ein verwertbares Ergebnis zu liefern. Der Autor empfiehlt xhigh-Reasoning grundsätzlich nur dann, wenn die Engine schnell genug ist – bei langsamen Engines lohne sich der Zeitaufwand nicht.
- MTPLX xhigh vs. medium: Zeitaufwand nur 30 Minuten mehr (2h05 vs. 1h35), Qualitätsgewinn laut Scorecard signifikant.
- Prefill-Spitzenreiter ist mlx-dspark mit 145 t/s, trotzdem schlechter Gesamt-Score wegen Qualitätsproblemen im xhigh-Modus.
- llama.cpp-Baseline (Homebrew Build b10470) und oMLX erzielen identische Decode-Rate (10–12 tok/s) und ähnliche Scores (65–66), liegen damit am unteren Ende der Empfehlung.
- 128k-Token-Cold-Prefill-Test wurde deterministisch und doppelt durchgeführt, um Prefill-Geschwindigkeitsangaben der Hersteller zu verifizieren.
- Für den Benchmark wurden insgesamt rund 200 GB Modelldaten heruntergeladen; 20 unvollständige Bubble-Bobble-Klone verblieben als Artefakt auf dem Testrechner.
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
Benchmark: Qwen 3.8 27B auf macOS – MTPLX schnellste Inference-Engine
Der Benchmark entstand aus einem fünftägigen, über 100 GPU-Stunden umfassenden Testprojekt eines Reddit-Nutzers, der systematisch 7 Inference-Engines für Qwen 3.8 27B auf einem Apple Mac Studio mit M2 Max und 96 GB Unified Memory verglich. Als Testmodell diente jeweils ein 8-Bit-Quant (GGUF oder MLX) mit unkomprimiertem KV-Cache, vollem 262k-Kontextfenster und dem offiziellen Qwen-Coding-Sampler. Der eigentliche Qualitätstest war kein synthetischer Benchmark, sondern ein vierphasiger agentic Coding-Auftrag – das Schreiben eines lauffähigen Bubble-Bobble-Klons –, der je Engine zweimal unter mittlerem und sehr hohem Reasoning-Aufwand (medium/xhigh) durchgeführt wurde. MTPLX erzielte mit Score 93 (xhigh) das beste Ergebnis und lieferte dabei 20–22 tok/s Decode-Geschwindigkeit sowie 109 t/s Prefill-Throughput. llama.cpp mit MTP-Erweiterung landete auf Platz zwei (Score 86, xhigh), brauchte dafür aber fast drei Stunden Wandzeit gegenüber gut zwei Stunden bei MTPLX. vllm-mlx fiel wegen unkontrollierter Thinking-Leakage – das rohe Chain-of-Thought landet ungetrennt im Ausgabefeld – trotz akzeptabler Geschwindigkeit auf den letzten Platz (Score 50–51). mlx-dspark DFlash2 im xhigh-Modus zeigte eine kritische Anomalie: Das Modell erzeugte 226.000 Thinking-Tokens, ohne ein verwertbares Ergebnis zu liefern. Der Autor empfiehlt xhigh-Reasoning grundsätzlich nur dann, wenn die Engine schnell genug ist – bei langsamen Engines lohne sich der Zeitaufwand nicht.
- MTPLX xhigh vs. medium: Zeitaufwand nur 30 Minuten mehr (2h05 vs. 1h35), Qualitätsgewinn laut Scorecard signifikant.
- Prefill-Spitzenreiter ist mlx-dspark mit 145 t/s, trotzdem schlechter Gesamt-Score wegen Qualitätsproblemen im xhigh-Modus.
- llama.cpp-Baseline (Homebrew Build b10470) und oMLX erzielen identische Decode-Rate (10–12 tok/s) und ähnliche Scores (65–66), liegen damit am unteren Ende der Empfehlung.
- 128k-Token-Cold-Prefill-Test wurde deterministisch und doppelt durchgeführt, um Prefill-Geschwindigkeitsangaben der Hersteller zu verifizieren.
- Für den Benchmark wurden insgesamt rund 200 GB Modelldaten heruntergeladen; 20 unvollständige Bubble-Bobble-Klone verblieben als Artefakt auf dem Testrechner.
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.