Liquid AI hat für seine LFM2.5-Modellreihe quantisierte Checkpoints im Q4_0-Format veröffentlicht, die mithilfe von Quantization-Aware Distillation (QAD) erzeugt wurden. QAD ist ein Trainingsverfahren, das Quantisierungsfehler bereits während des Destillationsprozesses berücksichtigt und so die Qualitätsverluste minimiert, die beim Komprimieren von Modellgewichten auf 4-Bit-Darstellung typischerweise entstehen. Im Gegensatz zu nachträglicher Post-Training Quantization (PTQ) wird das Modell bei QAD gezielt darauf trainiert, mit niedrig-präzisen Gewichten robust zu arbeiten, was in der Regel zu besseren Benchmark-Ergebnissen bei gleichem Speicherbedarf führt. Das Q4_0-Format ist ein weit verbreitetes 4-Bit-Quantisierungsformat, das vor allem in der llama.cpp-Ökosystem-Welt genutzt wird und auf Consumer-Hardware effizient ausgeführt werden kann. LFM2.5 ist Liquid AIs zweite Generation von Language Foundation Models, die auf einer hybriden Architektur basiert und nicht ausschließlich auf dem klassischen Transformer-Ansatz beruht. Durch die Bereitstellung der Checkpoints auf Hugging Face erhalten Entwickler und Forscher direkten Zugang zu den komprimierten Modellen ohne eigene Quantisierungspipeline. Die Veröffentlichung steht im Kontext eines wachsenden Interesses an effizienter Inferenz, da viele Anwendungsfälle edge- oder ressourcenbeschränkte Deployments erfordern.