Der Reddit-Nutzer Creative-Type9411 schildert seine Erfahrungen mit inoffiziellen Pre-Release-Branches von llama.cpp, die Multi-Token-Prediction (MTP) unterstützen. Auf seiner Hardware – zwei Xeon 8268, 1,5 TB RAM mit 2666 MHz und einer Tesla T4 – erzielt er mit dem schnellsten MTP-Branch rund 122 Eval-Token und ~38 t/s Ausgabe. Auf dem aktuellen stabilen Release sind es nur ~110 Eval-Token und ~30 t/s. Der Nutzer integrierte zusätzlich einen Vision-Fix aus einem anderen Branch manuell. Der Wechsel zurück auf den stabilen Release führte bei ihm zu einem Absturz von llama.cpp während einer leichten Coding-Session – ein Problem, das er auf den Pre-Release-Versionen nicht erlebt hatte. Der Post fragt die Community, ob andere ähnliche Erfahrungen machen und welche bekannten Nachteile der frühen Builds existieren. Die Diskussion spiegelt den typischen Trade-off zwischen Stabilitätsgarantie und Performance-Vorteilen bei experimentellen llama.cpp-Branches wider.