Intel Arc Pro B70 (32GB): MoE-Modelle deutlich schneller als Dense
ToolsQwen
Warum es zählt
Für VRAM-limitierte Local-Inference-Setups zeigt der Test, dass MoE-Architekturen auf 32-GB-Karten wie der B70 drastisch höhere Token-Raten liefern. Vulkan erwies sich dabei als ~40% schneller als SYCL (Windows & Linux).
— Lumeric Redaktion
Local Inference Throughput (tok/s Generation) · Spitzenwert
24.4%
Qwen3.6-27B Dense (Q4_K_M)
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
Intel Arc Pro B70 (32GB): MoE-Modelle deutlich schneller als Dense
ToolsQwen
Warum es zählt
Für VRAM-limitierte Local-Inference-Setups zeigt der Test, dass MoE-Architekturen auf 32-GB-Karten wie der B70 drastisch höhere Token-Raten liefern. Vulkan erwies sich dabei als ~40% schneller als SYCL (Windows & Linux).
— Lumeric Redaktion
Local Inference Throughput (tok/s Generation) · Spitzenwert
24.4%
Qwen3.6-27B Dense (Q4_K_M)
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.