Durch das Vorhalten häufig genutzter Experten im RAM erreicht das Setup 8 t/s (kurzzeitig 5 t/s bei Disk-Reads). Das zeigt, dass große MoE-Modelle auch auf Consumer-Hardware mit begrenztem VRAM nutzbar werden – relevant für lokale Deployment-Setups ohne teure Multi-GPU-Rigs.