CohereLabs hat mit North-Mini-Code-1.0-Eagle ein spezialisiertes Draft-Modell für das North-Mini-Code-1.0-Basismodell auf Hugging Face veröffentlicht. Eagle (Extrapolation Algorithm for Greater Language-model Efficiency) ist eine etablierte Technik zur spekulativen Dekodierung, bei der ein kleineres, schnelles Draft-Modell Tokens vorschlägt, die das Hauptmodell anschließend mit einem einzigen Forward-Pass verifiziert. Dadurch lässt sich die Inferenzgeschwindigkeit je nach Aufgabe und Hardware signifikant steigern, ohne die Ausgabequalität zu verändern. North-Mini-Code-1.0 ist CohereLabs' kompaktes Code-Sprachmodell, das auf lokalen Geräten und in ressourcenbeschränkten Umgebungen eingesetzt werden kann. Durch die Kombination mit dem Eagle-Draft-Modell sinkt die wahrgenommene Latenz insbesondere bei längeren Code-Vervollständigungen, was den praktischen Einsatz als lokalen Code-Assistenten attraktiver macht. Der Post wurde von Reddit-Nutzer /u/jacek2023 in r/LocalLLaMA geteilt und stieß dort auf Interesse der Community. Technische Details zu Architektur, Trainingsaufwand oder gemessenen Speedup-Faktoren gehen aus dem verfügbaren Auszug nicht hervor.