Qwen 3.8 27B: Starkes lokales Modell mit problematischem Reasoning-Standard
Qwen 3.8 27B ist das jüngste Modell aus Alibabas Qwen-Forschungslabor und tritt als Nachfolger von Qwen 3.6 27B an, das Simon Willison bereits als beeindruckend eingestuft hatte. Das Modell ist Apache-2.0-lizenziert, verfügt über Bildverarbeitung und passt mit seiner 17-GB-Q4_K_M-Quantisierung auf Consumer-Hardware – Willison testete es auf einem 128-GB-M5-Max-MacBook-Pro sowie auf einem NVIDIA DGX Spark, jeweils über LM Studio. Qwens eigene Benchmarks zeigen Verbesserungen gegenüber Qwen 3.6 27B und dem bis vor wenigen Monaten stärksten Closed-Weight-Modell Qwen 3.7-Plus. Das zentrale Problem: Die Standardeinstellung „xhigh" für Reasoning-Tiefe führt dazu, dass das Modell selbst triviale Anfragen exzessiv ausarbeitet. Ein einfacher SVG-Pelikan-Prompt benötigte 22.276 Reasoning-Tokens und 3.223 Output-Tokens – das entspricht 21 Minuten Rechenzeit. Derselbe Prompt ohne Reasoning dauerte lediglich 137 Sekunden und produzierte sogar 3.715 Output-Tokens. Willisons Empfehlung lautet daher, das Modell grundsätzlich auf „low" oder komplett ohne Reasoning zu starten und den Standardwert als schlechten Einstiegspunkt zu betrachten. In der Bildanalyse hingegen überzeugt das Modell: Die zurückgegebenen Bounding-Boxes für Pelikane auf einem Foto stimmten sehr präzise mit den tatsächlichen Bildpositionen überein.
- Maximale Kontextlänge beträgt 262.144 Tokens — LM Studios Standard-Limit von 8.192 Tokens muss manuell erhöht werden, sonst läuft das Reasoning-Budget voll.
- Quantisiertes GGUF-Modell (Q4_K_M) belegt nur 17 GB auf der Festplatte und ist damit für Laptops mit ausreichend RAM nutzbar.
- Qwen 3.8 27B lieferte Bounding-Box-Koordinaten im 0–1000-Skalierungsformat per llm-CLI-Befehl direkt aus einer URL – ohne Fine-Tuning.
- Zum Vergleich zog Willison über OpenRouter das deutlich größere Qwen 3.8 2.4T-A95B heran, das eine animierte SVG produzierte.
- Das Bounding-Box-Visualisierungstool wurde vom Modell selbst in einem einzigen Prompt als vollständiges HTML-Interface generiert – allerdings mit aktiviertem Overthinking und entsprechend over-engineertem Ergebnis.
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Qwen 3.8 27B: Starkes lokales Modell mit problematischem Reasoning-Standard
Qwen 3.8 27B ist das jüngste Modell aus Alibabas Qwen-Forschungslabor und tritt als Nachfolger von Qwen 3.6 27B an, das Simon Willison bereits als beeindruckend eingestuft hatte. Das Modell ist Apache-2.0-lizenziert, verfügt über Bildverarbeitung und passt mit seiner 17-GB-Q4_K_M-Quantisierung auf Consumer-Hardware – Willison testete es auf einem 128-GB-M5-Max-MacBook-Pro sowie auf einem NVIDIA DGX Spark, jeweils über LM Studio. Qwens eigene Benchmarks zeigen Verbesserungen gegenüber Qwen 3.6 27B und dem bis vor wenigen Monaten stärksten Closed-Weight-Modell Qwen 3.7-Plus. Das zentrale Problem: Die Standardeinstellung „xhigh" für Reasoning-Tiefe führt dazu, dass das Modell selbst triviale Anfragen exzessiv ausarbeitet. Ein einfacher SVG-Pelikan-Prompt benötigte 22.276 Reasoning-Tokens und 3.223 Output-Tokens – das entspricht 21 Minuten Rechenzeit. Derselbe Prompt ohne Reasoning dauerte lediglich 137 Sekunden und produzierte sogar 3.715 Output-Tokens. Willisons Empfehlung lautet daher, das Modell grundsätzlich auf „low" oder komplett ohne Reasoning zu starten und den Standardwert als schlechten Einstiegspunkt zu betrachten. In der Bildanalyse hingegen überzeugt das Modell: Die zurückgegebenen Bounding-Boxes für Pelikane auf einem Foto stimmten sehr präzise mit den tatsächlichen Bildpositionen überein.
- Maximale Kontextlänge beträgt 262.144 Tokens — LM Studios Standard-Limit von 8.192 Tokens muss manuell erhöht werden, sonst läuft das Reasoning-Budget voll.
- Quantisiertes GGUF-Modell (Q4_K_M) belegt nur 17 GB auf der Festplatte und ist damit für Laptops mit ausreichend RAM nutzbar.
- Qwen 3.8 27B lieferte Bounding-Box-Koordinaten im 0–1000-Skalierungsformat per llm-CLI-Befehl direkt aus einer URL – ohne Fine-Tuning.
- Zum Vergleich zog Willison über OpenRouter das deutlich größere Qwen 3.8 2.4T-A95B heran, das eine animierte SVG produzierte.
- Das Bounding-Box-Visualisierungstool wurde vom Modell selbst in einem einzigen Prompt als vollständiges HTML-Interface generiert – allerdings mit aktiviertem Overthinking und entsprechend over-engineertem Ergebnis.
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.