Das quelloffene Lemonade-SDK hat vLLM mit ROCm-Unterstützung als experimentelles Backend aufgenommen. Der Beitrag stammt von AMD-Entwickler u/jfowers_amd, die eigentliche Integration wurde von u/krishna2910-amd, u/mikkoph und u/sa1sr1 umgesetzt. Das neue Backend erlaubt es, Sprachmodelle im .safetensors-Format direkt auszuführen, ohne sie zuvor ins GGUF-Format umwandeln zu müssen – ein Schritt, der bislang für llama.cpp nötig war. Die Einrichtung erfolgt über zwei CLI-Befehle: `lemonade backends install vllm:rocm` und `lemonade run Qwen3.5-0.8B-vLLM`. Als Testmodell wird Qwen3.5-0.8B genannt. Das Team bezeichnet den Stand als experimentell: Kernfunktionen sind implementiert, bekannte Lücken existieren noch. Feedback der Community soll bestimmen, wie weit das Backend weiterentwickelt wird. Eine Quick-Start-Anleitung ist unter lemonade-server.ai verfügbar, der Quellcode auf GitHub.