Der Reddit-Nutzer /u/atineiatte hat das Qwen3-VL-Embedding-2B-Modell von Alibaba/Qwen als erster auf einem Orange Pi 5b mit dem RKLLM-Framework zum Laufen gebracht. Der Orange Pi 5b basiert auf dem Rockchip RK3588-SoC, der eine eigene NPU mitbringt, für die RKLLM als Inferenz-Stack entwickelt wurde. Im Demo-Szenario vergleicht das Modell mehr als 1.300 Textphrasen auf semantische Ähnlichkeit zu einem jeweils aktuellen Webcam-Frame – bei einem Durchsatz von ca. einem Bild pro 10 Sekunden. Qwen3-VL-Embedding-2B ist ein multimodales Embedding-Modell, das sowohl Bild- als auch Texteingaben in einen gemeinsamen Vektorraum einbettet und damit Cross-Modal-Suche oder Klassifikation ermöglicht. Die Portierung war laut Autor lange ausgeblieben, obwohl Bedarf in der Community bestand.