Qwen3.6-35B-A3B Uncensored Genesis Hermes V2 als GGUF veröffentlicht
Das Modell wurde vom Reddit-Nutzer EvilEnginer (HuggingFace: LuffyTheFox) als Community-Fine-Tune veröffentlicht und basiert auf der Qwen3.6-35B-A3B-Architektur von Alibabas Tongyi Lab – einem Mixture-of-Experts-Modell mit 35 Milliarden Gesamtparametern, von denen pro Inferenzschritt nur rund 3 Milliarden aktiv sind. Die „Genesis Hermes V2"-Variante kombiniert ein Uncensored-Fine-Tuning (Entfernung von Inhaltsfiltern) mit Hermes-Agentic-Fähigkeiten, die strukturierte Tool-Use-Workflows und Agenten-Pipelines ermöglichen. Als empfohlene Quantisierung wird APEX (Q6_K) angegeben, ein 6-Bit-K-Quant-Format, das Qualität und Speicherbedarf balanciert und direkt mit llama.cpp-kompatiblen Inferenz-Engines läuft. Der Autor gibt konkrete Inferenzparameter vor: Temperatur 0,6, Top-P 0,95, Top-K 20, Min-P deaktiviert, Repeat- und Presence-Penalty deaktiviert sowie ein fester Seed von 42 – Thinking-Mode ist standardmäßig aktiviert. Als Quick-Tests wurden in einem einzigen Durchlauf ein SVG-Pelikan-auf-Fahrrad-Bild sowie ein funktionsfähiges Arcanoid-HTML5-Spiel generiert, was kreative Code- und Renderingfähigkeiten des Modells belegen soll. Zu den beworbenen Verbesserungen gegenüber dem Basismodell zählen laut Autor besseres Sprachverständnis, ein erweiterter Selbstkorrektur-Mechanismus im Thinking-Prozess sowie stabilere Systemprompterkennung. Das Modell richtet sich primär an lokale Nutzer, die ein leistungsfähiges MoE-Modell ohne Cloud-Abhängigkeit und ohne eingebaute Inhaltsbeschränkungen betreiben wollen.
- Empfohlene Inferenzparameter: temperature=0.6, top_p=0.95, top_k=20, Seed=42 – Repeat/Presence-Penalty deaktiviert, Thinking aktiviert.
- APEX-Quant entspricht Q6_K (6-Bit K-Quantisierung) – für llama.cpp-kompatible Setups optimiert.
- Quick-Tests auf APEX-Quant: SVG-Generierung (Pelikan auf Fahrrad) und vollständiges Arcanoid-HTML5-Spiel, jeweils im One-Shot.
- System-Prompt nutzt den originalen Qwen-Identity-String von Alibabas Tongyi Lab als Basis.
- Veröffentlicht von Reddit-/HuggingFace-Nutzer LuffyTheFox (u/EvilEnginer) als inoffizielle Community-Veröffentlichung.
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
Qwen3.6-35B-A3B Uncensored Genesis Hermes V2 als GGUF veröffentlicht
Das Modell wurde vom Reddit-Nutzer EvilEnginer (HuggingFace: LuffyTheFox) als Community-Fine-Tune veröffentlicht und basiert auf der Qwen3.6-35B-A3B-Architektur von Alibabas Tongyi Lab – einem Mixture-of-Experts-Modell mit 35 Milliarden Gesamtparametern, von denen pro Inferenzschritt nur rund 3 Milliarden aktiv sind. Die „Genesis Hermes V2"-Variante kombiniert ein Uncensored-Fine-Tuning (Entfernung von Inhaltsfiltern) mit Hermes-Agentic-Fähigkeiten, die strukturierte Tool-Use-Workflows und Agenten-Pipelines ermöglichen. Als empfohlene Quantisierung wird APEX (Q6_K) angegeben, ein 6-Bit-K-Quant-Format, das Qualität und Speicherbedarf balanciert und direkt mit llama.cpp-kompatiblen Inferenz-Engines läuft. Der Autor gibt konkrete Inferenzparameter vor: Temperatur 0,6, Top-P 0,95, Top-K 20, Min-P deaktiviert, Repeat- und Presence-Penalty deaktiviert sowie ein fester Seed von 42 – Thinking-Mode ist standardmäßig aktiviert. Als Quick-Tests wurden in einem einzigen Durchlauf ein SVG-Pelikan-auf-Fahrrad-Bild sowie ein funktionsfähiges Arcanoid-HTML5-Spiel generiert, was kreative Code- und Renderingfähigkeiten des Modells belegen soll. Zu den beworbenen Verbesserungen gegenüber dem Basismodell zählen laut Autor besseres Sprachverständnis, ein erweiterter Selbstkorrektur-Mechanismus im Thinking-Prozess sowie stabilere Systemprompterkennung. Das Modell richtet sich primär an lokale Nutzer, die ein leistungsfähiges MoE-Modell ohne Cloud-Abhängigkeit und ohne eingebaute Inhaltsbeschränkungen betreiben wollen.
- Empfohlene Inferenzparameter: temperature=0.6, top_p=0.95, top_k=20, Seed=42 – Repeat/Presence-Penalty deaktiviert, Thinking aktiviert.
- APEX-Quant entspricht Q6_K (6-Bit K-Quantisierung) – für llama.cpp-kompatible Setups optimiert.
- Quick-Tests auf APEX-Quant: SVG-Generierung (Pelikan auf Fahrrad) und vollständiges Arcanoid-HTML5-Spiel, jeweils im One-Shot.
- System-Prompt nutzt den originalen Qwen-Identity-String von Alibabas Tongyi Lab als Basis.
- Veröffentlicht von Reddit-/HuggingFace-Nutzer LuffyTheFox (u/EvilEnginer) als inoffizielle Community-Veröffentlichung.
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.