MoE-Modelle mit Expert-Caching (BigMoeOnEdge) ermöglichen das Ausführen von 35B-Modellen auf Hardware mit weniger RAM als das Modell wiegt – der Flaschenhals ist die SSD-Geschwindigkeit, nicht der RAM. Für lokale Setups ohne GPU relevant, aber mit erheblichem Geschwindigkeitsnachteil gegenüber Apple Silicon (2,3 vs. 20 tok/s).