Der Parameter --cache-reuse 256 ist bereits gesetzt, jedoch ist KV-Cache-Wiederverwendung über Sitzungsgrenzen hinweg in llama.cpp nur möglich, wenn der Cache persistent gespeichert wird. Wer große System-Prompts lokal betreibt, sollte die Prompt-Caching-Optionen von llama-server prüfen, um TTFT deutlich zu senken.