Die nahezu konstante Decode-Rate über 12.000 zusätzliche KV-Cache-Token zeigt, dass llama.cpp auf DGX Spark beim 124B-Modell keinen messbaren Durchsatzabfall durch wachsenden Kontext zeigt – relevant für Long-Context-Inference-Setups auf Consumer-naher Hardware.