Mistral Medium 3.5 128B: Fehlerhafte GGUF-Dateien bei Unsloth korrigiert
Nutzer /u/Sunija_Dev meldete auf r/LocalLLaMA, dass sämtliche GGUF-Quantisierungen des Mistral Medium 3.5 128B-Modells, die über Unsloths Hugging-Face-Repository bereitgestellt wurden, fehlerhaft waren. Die defekten Dateien erzeugten inkohärente Ausgaben – insbesondere bei langen Kontextfenstern. Unsloth hat das Problem inzwischen behoben und aktualisierte GGUFs veröffentlicht; die Korrektur wurde in einem eigenen Discussion-Thread auf Hugging Face angekündigt. Laut Ersterfahrungen des Reporters ist das Modell nach dem Fix deutlich stabiler: Selbst bei falsch formatiertem Prompt-Format, das zuvor schnell zu Kauderwelsch führte, bleibt die aktualisierte Version kohärent. Betroffen waren alle Quantisierungsstufen im Repository; Nutzer mit bereits heruntergeladenen GGUFs müssen die Dateien erneut beziehen.
- Alle Quantisierungsstufen der Unsloth-GGUFs von Mistral Medium 3.5 128B waren betroffen.
- Fehler äußerte sich vor allem bei langem Kontext als inkohärente oder wirre Ausgaben.
- Auch bei kurzem Kontext und falschem Prompt-Format kam es zu Qualitätsproblemen.
- Fix und Ankündigung über Hugging-Face-Discussions im Unsloth-Repository veröffentlicht.
- Nutzer müssen bereits heruntergeladene GGUF-Dateien durch die korrigierten Versionen ersetzen.
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
- LAUNCHreddit.com3w
Unsloth aktualisiert Qwen3-235B-A22B GGUF-Dateien auf Hugging Face
- MEINUNGreddit.com2w
Community bittet Unsloth: Qwen3 35B und 27B mit UD 3.0 neu quantisieren
- LAUNCHreddit.com2w
GLM-5.3 Flash als Unsloth GGUF verfügbar
- GERÜCHTreddit.com2w
Verdacht: AtomicChat tarnt IQ2_S-Quant als Q4_K_M für Qwen3.8-Flash-Next
Mistral Medium 3.5 128B: Fehlerhafte GGUF-Dateien bei Unsloth korrigiert
Nutzer /u/Sunija_Dev meldete auf r/LocalLLaMA, dass sämtliche GGUF-Quantisierungen des Mistral Medium 3.5 128B-Modells, die über Unsloths Hugging-Face-Repository bereitgestellt wurden, fehlerhaft waren. Die defekten Dateien erzeugten inkohärente Ausgaben – insbesondere bei langen Kontextfenstern. Unsloth hat das Problem inzwischen behoben und aktualisierte GGUFs veröffentlicht; die Korrektur wurde in einem eigenen Discussion-Thread auf Hugging Face angekündigt. Laut Ersterfahrungen des Reporters ist das Modell nach dem Fix deutlich stabiler: Selbst bei falsch formatiertem Prompt-Format, das zuvor schnell zu Kauderwelsch führte, bleibt die aktualisierte Version kohärent. Betroffen waren alle Quantisierungsstufen im Repository; Nutzer mit bereits heruntergeladenen GGUFs müssen die Dateien erneut beziehen.
- Alle Quantisierungsstufen der Unsloth-GGUFs von Mistral Medium 3.5 128B waren betroffen.
- Fehler äußerte sich vor allem bei langem Kontext als inkohärente oder wirre Ausgaben.
- Auch bei kurzem Kontext und falschem Prompt-Format kam es zu Qualitätsproblemen.
- Fix und Ankündigung über Hugging-Face-Discussions im Unsloth-Repository veröffentlicht.
- Nutzer müssen bereits heruntergeladene GGUF-Dateien durch die korrigierten Versionen ersetzen.
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
- LAUNCHreddit.com3w
Unsloth aktualisiert Qwen3-235B-A22B GGUF-Dateien auf Hugging Face
- MEINUNGreddit.com2w
Community bittet Unsloth: Qwen3 35B und 27B mit UD 3.0 neu quantisieren
- LAUNCHreddit.com2w
GLM-5.3 Flash als Unsloth GGUF verfügbar
- GERÜCHTreddit.com2w
Verdacht: AtomicChat tarnt IQ2_S-Quant als Q4_K_M für Qwen3.8-Flash-Next