Moonshot AI, das chinesische KI-Labor hinter dem Kimi-Modell, veröffentlicht FlashKDA als Open-Source-Bibliothek. Der Kern der Veröffentlichung sind CUTLASS-basierte GPU-Kernel für Kimi Delta Attention — eine Attention-Variante, die im Kimi-Modell eingesetzt wird. FlashKDA integriert sich direkt in das flash-linear-attention-Ökosystem und unterstützt Variable-Length-Batching, was den Einsatz in realistischen Produktionsszenarien mit unterschiedlich langen Eingaben ermöglicht. Benchmarks wurden auf H20-GPUs (NVIDIAs Export-Chip für den chinesischen Markt) durchgeführt und zeigen messbare Geschwindigkeitsvorteile gegenüber Basisimplementierungen. Die Veröffentlichung richtet sich an Entwickler, die lineare oder hybride Attention-Architekturen effizient auf moderner GPU-Hardware betreiben wollen.