llama.cpp Console: Windows-GUI für llama.cpp unter WSL/Ubuntu
„llama.cpp Console" ist eine inoffizielle, selbst-enthaltene WPF-Applikation für Windows, die den kompletten Einrichtungs- und Betriebsworkflow von llama.cpp unter WSL/Ubuntu grafisch abbildet. Der Entwickler /u/wgaca2 hatte eine einfachere Version bereits längere Zeit lokal im Einsatz und hat sie nun als ersten öffentlichen Release auf GitHub veröffentlicht. Die App erkennt und installiert WSL, richtet Ubuntu ein, verwaltet CPU-, CUDA- und Vulkan-Build-Abhängigkeiten und lädt den llama.cpp-Quellcode direkt aus dem offiziellen Repository oder einer benutzerdefinierten Quelle. Modelle lassen sich per Hugging-Face-Suche auffinden, herunterladen und registrieren – inklusive Companion-Projektoren (mmproj). Pro Modell sind individuelle Startparameter und Runtime-Zuweisung möglich. Ein integriertes Dashboard zeigt Live-Token-Raten, GPU-Auslastung und -Temperaturen sowie Logs. Zusätzlich lassen sich OpenCode-Konfigurationsschnipsel direkt in der App verwalten. Der erste Release ist unsigniert (SmartScreen-Warnung möglich), SHA-256-Prüfsummen liegen den Release-Artefakten bei. AMD-GPUs wurden vom Entwickler mangels Hardware nicht auf dem Vulkan-Pfad getestet. Geplante Erweiterungen umfassen schnelleres Modell-Switching, RAM-Warm-Keeping und Multi-Modell-Betrieb.
- WPF-App läuft nativ unter Windows, die llama.cpp-Runtime selbst läuft in Ubuntu/WSL.
- Unterstützt CPU-, CUDA- und Vulkan-Builds – AMD-Vulkan-Pfad vom Entwickler nicht validiert.
- Hugging-Face-Suche und GGUF-Download direkt aus der UI, inklusive mmproj-Handling.
- Integration mit OpenCode: Modell-/Provider-/Agent-Konfigurationen lassen sich in der App verwalten.
- Erster Release ist unsigniert; SHA-256-Prüfsummen sind in den Release-Artefakten enthalten.
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
llama.cpp Console: Windows-GUI für llama.cpp unter WSL/Ubuntu
„llama.cpp Console" ist eine inoffizielle, selbst-enthaltene WPF-Applikation für Windows, die den kompletten Einrichtungs- und Betriebsworkflow von llama.cpp unter WSL/Ubuntu grafisch abbildet. Der Entwickler /u/wgaca2 hatte eine einfachere Version bereits längere Zeit lokal im Einsatz und hat sie nun als ersten öffentlichen Release auf GitHub veröffentlicht. Die App erkennt und installiert WSL, richtet Ubuntu ein, verwaltet CPU-, CUDA- und Vulkan-Build-Abhängigkeiten und lädt den llama.cpp-Quellcode direkt aus dem offiziellen Repository oder einer benutzerdefinierten Quelle. Modelle lassen sich per Hugging-Face-Suche auffinden, herunterladen und registrieren – inklusive Companion-Projektoren (mmproj). Pro Modell sind individuelle Startparameter und Runtime-Zuweisung möglich. Ein integriertes Dashboard zeigt Live-Token-Raten, GPU-Auslastung und -Temperaturen sowie Logs. Zusätzlich lassen sich OpenCode-Konfigurationsschnipsel direkt in der App verwalten. Der erste Release ist unsigniert (SmartScreen-Warnung möglich), SHA-256-Prüfsummen liegen den Release-Artefakten bei. AMD-GPUs wurden vom Entwickler mangels Hardware nicht auf dem Vulkan-Pfad getestet. Geplante Erweiterungen umfassen schnelleres Modell-Switching, RAM-Warm-Keeping und Multi-Modell-Betrieb.
- WPF-App läuft nativ unter Windows, die llama.cpp-Runtime selbst läuft in Ubuntu/WSL.
- Unterstützt CPU-, CUDA- und Vulkan-Builds – AMD-Vulkan-Pfad vom Entwickler nicht validiert.
- Hugging-Face-Suche und GGUF-Download direkt aus der UI, inklusive mmproj-Handling.
- Integration mit OpenCode: Modell-/Provider-/Agent-Konfigurationen lassen sich in der App verwalten.
- Erster Release ist unsigniert; SHA-256-Prüfsummen sind in den Release-Artefakten enthalten.
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.