Qwen3-35B-A3B abliteriert: Community feiert MoE-Modell auf Apple Silicon
Der Reddit-Post von Nutzer /u/eclipsegum auf r/LocalLLaMA bewirbt das Modell Qwen3.6-35B-A3B-Abliterated-Heretic-MLX-4bit als subjektiv bestes allgemeines Chatbot-Modell im Local-LLM-Bereich. Das Modell basiert auf Qwens Mixture-of-Experts-Architektur mit 35 Milliarden Gesamtparametern, von denen nur etwa 3 Milliarden pro Token aktiv sind – was die Inferenz auf Apple Silicon mit dem MLX-Framework besonders effizient macht. „Abliterated" bedeutet, dass die eingebauten Sicherheitsfilter und Ablehnungsantworten durch ein nachträgliches Fine-Tuning entfernt wurden. Die „Heretic"-Variante ist eine Community-Ableitung, die speziell für den MLX-Stack optimiert und in 4-Bit quantisiert wurde. Der Post enthält keine Benchmarkzahlen oder technischen Messwerte – es handelt sich ausschließlich um eine persönliche Einschätzung des Nutzers.
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
Qwen3-35B-A3B abliteriert: Community feiert MoE-Modell auf Apple Silicon
Der Reddit-Post von Nutzer /u/eclipsegum auf r/LocalLLaMA bewirbt das Modell Qwen3.6-35B-A3B-Abliterated-Heretic-MLX-4bit als subjektiv bestes allgemeines Chatbot-Modell im Local-LLM-Bereich. Das Modell basiert auf Qwens Mixture-of-Experts-Architektur mit 35 Milliarden Gesamtparametern, von denen nur etwa 3 Milliarden pro Token aktiv sind – was die Inferenz auf Apple Silicon mit dem MLX-Framework besonders effizient macht. „Abliterated" bedeutet, dass die eingebauten Sicherheitsfilter und Ablehnungsantworten durch ein nachträgliches Fine-Tuning entfernt wurden. Die „Heretic"-Variante ist eine Community-Ableitung, die speziell für den MLX-Stack optimiert und in 4-Bit quantisiert wurde. Der Post enthält keine Benchmarkzahlen oder technischen Messwerte – es handelt sich ausschließlich um eine persönliche Einschätzung des Nutzers.
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.