Der Reddit-Nutzer SemaMod stieß auf das Hugging-Face-Modell AIOne-Agent-52B-A36B-it von JDONE-Research, das als erster bekannter Finetune auf Basis von Gemma 4 31B Dense die MoE-Funktionalität aktiviert – konkret durch Training eines Routers und zusätzlicher Experten sowie Aktivierung des enable_moe_block-Konfigurationsflags, das auch Gemma 4 26B nutzt. Dieser Mechanismus war bislang kaum diskutiert worden. SemaMod entwickelte iterativ mit ChatGPT Pro ein Trainings-Skript, das auf einem NVIDIA B300 etwa 24 Stunden benötigen soll, um ein Proof-of-Concept-Modell zu erzeugen. Das JDONE-Modell ist auf Koreanisch spezialisiert und damit für die breitere Community nur eingeschränkt nutzbar. Der Poster hat eigene Erfahrung lediglich mit Finetuning via Unsloth und sucht explizit Feedback von erfahreneren Trainern. Das Experiment nutzt RunPod-Credits und versteht sich als Community-getriebener Machbarkeitstest – ein offizielles Release oder validierte Benchmarks liegen noch nicht vor.