Cola-DLM (Continuous Latent Diffusion Language Model) ist ein hierarchisches Sprachmodell aus dem ByteDance-Seed-Team, das den klassischen autoregressiven Ansatz durch kontinuierliche Latenzraum-Diffusion ersetzt. Die Architektur besteht aus zwei Hauptkomponenten: einem Text-VAE, der Texttokens in kontinuierliche Latenz-Sequenzen komprimiert und zurückdekodiert, sowie einem block-kausalen Diffusion Transformer (DiT), der mithilfe von Flow Matching den Latenz-Prior erlernt. Das Training erfolgt zweistufig – zunächst wird der Text-VAE vortrainiert, anschließend werden beide Komponenten gemeinsam trainiert. Der veröffentlichte HuggingFace-Checkpoint entspricht dem 2000-EFLOPs-Punkt aus der Skalierungskurve (RQ4) des zugehörigen Papers. Als Tokenizer kommt der OLMo-2-Tokenizer mit einem Vokabular von 100.278 Einträgen zum Einsatz. Modellgewichte, Code und Paper (arXiv: 2605.06548) sind öffentlich unter Apache 2.0 verfügbar.