Ornith 1.5 (9B & 35B-A3B) als AD-Quants auf HuggingFace verfügbar
Ornith Lab hat am 19. August 2026 die Version 1.5 ihrer Modellreihe veröffentlicht: ein 9B-Dense-Modell mit Vision-Fähigkeit und ein 35B-A3B-MoE-Modell – beide unter MIT-Lizenz. Zusätzlich existiert ein 397B-Modell, das AtomicChat bislang nicht quantisiert hat, dies aber auf Anfrage in Betracht zieht. Das Training nutzt eine selbstgenerierende Task-Loop, bei der das Modell seine eigenen Trainingsaufgaben erzeugt. AtomicChat hat für beide Modelle ihre proprietären „Atomic Dynamic" (AD)-Quants erstellt – 14 Builds für das 9B und 13 Builds für das 35B-A3B – und diese mit Standard-llama.cpp-Quants (auf Basis derselben imatrix) verglichen. Die Metriken sind Mean KLD (Kullback-Leibler-Divergenz) und Top-1-Accuracy, beide gemessen gegen eine eigene BF16-Konvertierung als Referenz. Beim 35B-A3B-Modell zeigt AD-Q6_K-Q5_K mit einem KLD von 0,0158 und 94,85 % Top-1 sogar minimal bessere Werte als das größere Standard-Q6_K (0,0167 / 94,63 %) – bei gleichzeitig 2,26 GB weniger Dateigröße. AtomicChat betreibt neben dem Quantisierungsprojekt auch die Open-Source-App atomic.chat; der Beitrag stammt vom Mitgründer des Unternehmens.
- Das 35B-A3B-Modell ist eine Mixture-of-Experts-Architektur mit 35B Gesamtparametern, wovon 3B pro Inferenzschritt aktiv sind (A3B).
- AD-Q4_K-IQ4_XS schlägt beim 35B-A3B das Standard-Q4_K_M in beiden Metriken (KLD 0,0315 vs. 0,0477; Top-1 92,71 % vs. 91,01 %) bei 1 GB weniger Dateigröße.
- Für das 9B-Modell liefert AD-Q5_K-Q4_K bei 5,93 GB eine bessere Top-1-Accuracy (93,10 %) als das größere Standard-Q5_K_M bei 6,47 GB (92,80 %).
- Alle Quants inklusive imatrix und Per-Tensor-Layouts sind in dedizierten HuggingFace-Collections unter AtomicChat/ornith-15-9b und AtomicChat/ornith-15-35b-a3b abrufbar.
- Ein 397B-Ornith-1.5-Modell existiert ebenfalls, wurde aber von AtomicChat noch nicht quantisiert – Interesse aus der Community könnte dies anstoßen.
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
Ornith 1.5 (9B & 35B-A3B) als AD-Quants auf HuggingFace verfügbar
Ornith Lab hat am 19. August 2026 die Version 1.5 ihrer Modellreihe veröffentlicht: ein 9B-Dense-Modell mit Vision-Fähigkeit und ein 35B-A3B-MoE-Modell – beide unter MIT-Lizenz. Zusätzlich existiert ein 397B-Modell, das AtomicChat bislang nicht quantisiert hat, dies aber auf Anfrage in Betracht zieht. Das Training nutzt eine selbstgenerierende Task-Loop, bei der das Modell seine eigenen Trainingsaufgaben erzeugt. AtomicChat hat für beide Modelle ihre proprietären „Atomic Dynamic" (AD)-Quants erstellt – 14 Builds für das 9B und 13 Builds für das 35B-A3B – und diese mit Standard-llama.cpp-Quants (auf Basis derselben imatrix) verglichen. Die Metriken sind Mean KLD (Kullback-Leibler-Divergenz) und Top-1-Accuracy, beide gemessen gegen eine eigene BF16-Konvertierung als Referenz. Beim 35B-A3B-Modell zeigt AD-Q6_K-Q5_K mit einem KLD von 0,0158 und 94,85 % Top-1 sogar minimal bessere Werte als das größere Standard-Q6_K (0,0167 / 94,63 %) – bei gleichzeitig 2,26 GB weniger Dateigröße. AtomicChat betreibt neben dem Quantisierungsprojekt auch die Open-Source-App atomic.chat; der Beitrag stammt vom Mitgründer des Unternehmens.
- Das 35B-A3B-Modell ist eine Mixture-of-Experts-Architektur mit 35B Gesamtparametern, wovon 3B pro Inferenzschritt aktiv sind (A3B).
- AD-Q4_K-IQ4_XS schlägt beim 35B-A3B das Standard-Q4_K_M in beiden Metriken (KLD 0,0315 vs. 0,0477; Top-1 92,71 % vs. 91,01 %) bei 1 GB weniger Dateigröße.
- Für das 9B-Modell liefert AD-Q5_K-Q4_K bei 5,93 GB eine bessere Top-1-Accuracy (93,10 %) als das größere Standard-Q5_K_M bei 6,47 GB (92,80 %).
- Alle Quants inklusive imatrix und Per-Tensor-Layouts sind in dedizierten HuggingFace-Collections unter AtomicChat/ornith-15-9b und AtomicChat/ornith-15-35b-a3b abrufbar.
- Ein 397B-Ornith-1.5-Modell existiert ebenfalls, wurde aber von AtomicChat noch nicht quantisiert – Interesse aus der Community könnte dies anstoßen.
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.