Der Reddit-Nutzer alex20_202020 betreibt LLMs auf der CPU, da seine GPU veraltet ist, und schätzt daher die Effizienz von Mixture-of-Experts-Architekturen (MoE), bei denen jeweils nur ein Bruchteil der Gesamtparameter aktiv ist. Bisher bekannt sind ihm kleinere MoE-Modelle wie Qwen 3.6 und Gemma-4, die beide unter 40 Milliarden Parameter liegen. Er sucht nun nach Empfehlungen für größere Modelle im Bereich 40–500 B, mit Schwerpunkt auf 40–100 B, da hier sein verfügbares RAM ausreicht. Bestehende Community-Posts zu diesem Thema sind nach eigener Einschätzung rund neun Monate alt und damit angesichts der jüngsten Modellveröffentlichungen nicht mehr zeitgemäß. Die Frage spiegelt einen breiteren Bedarf in der Local-LLM-Community wider: Nutzer mit Consumer-Hardware wollen von der MoE-Architektur profitieren, haben aber Schwierigkeiten, den aktuellen Stand der verfügbaren Modelle zu überblicken.