LM Studio Vulkan: GPU-Priorisierung bei gemischten NVIDIA/AMD-Setups gefragt
Der Reddit-Nutzer MarcusAurelius68 beschreibt ein gemischtes GPU-Setup aus einer NVIDIA RTX 3090 Ti, einer RTX 3060 (12 GB) und einer neu hinzugefügten AMD RX 9700. Da CUDA keine AMD-GPUs unterstützt, muss LM Studio unter Windows mit dem Vulkan-Backend betrieben werden. Mit CUDA war es möglich, die GPU-Nutzung nach verfügbarem VRAM zu priorisieren: unter 24 GB auf der schnellsten Karte, unter 36 GB auf der langsameren, darüber hinaus mit CPU-Offloading. Der Gesamt-VRAM beträgt mit dem neuen Setup 68 GB, jedoch bietet Vulkan laut dem Nutzer nur die Option, Layer gleichmäßig auf alle Karten zu verteilen – ohne Priorisierung. Das Ergebnis ist ein funktionierendes, aber insgesamt langsameres System. Der Nutzer fragt, ob es eine Möglichkeit gibt, auch unter Vulkan die GPU-Reihenfolge zu steuern, oder ob das Upgrade der RTX 3060 die einzige praktikable Lösung wäre.
- Setup: RTX 3090 Ti + RTX 3060 12 GB + AMD RX 9700 → 68 GB Gesamt-VRAM
- CUDA erlaubte gestufte Priorisierung: schnellste GPU zuerst, dann langsamere, dann CPU-Offload
- Vulkan-Backend nötig, sobald NVIDIA- und AMD-GPUs gemischt werden
- Unter Vulkan ist laut Nutzer nur Layer-Verteilung über alle GPUs möglich, keine Priorisierung
- Als Alternative wird ein Upgrade der RTX 3060 auf eine Karte mit mehr VRAM erwogen
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
LM Studio Vulkan: GPU-Priorisierung bei gemischten NVIDIA/AMD-Setups gefragt
Der Reddit-Nutzer MarcusAurelius68 beschreibt ein gemischtes GPU-Setup aus einer NVIDIA RTX 3090 Ti, einer RTX 3060 (12 GB) und einer neu hinzugefügten AMD RX 9700. Da CUDA keine AMD-GPUs unterstützt, muss LM Studio unter Windows mit dem Vulkan-Backend betrieben werden. Mit CUDA war es möglich, die GPU-Nutzung nach verfügbarem VRAM zu priorisieren: unter 24 GB auf der schnellsten Karte, unter 36 GB auf der langsameren, darüber hinaus mit CPU-Offloading. Der Gesamt-VRAM beträgt mit dem neuen Setup 68 GB, jedoch bietet Vulkan laut dem Nutzer nur die Option, Layer gleichmäßig auf alle Karten zu verteilen – ohne Priorisierung. Das Ergebnis ist ein funktionierendes, aber insgesamt langsameres System. Der Nutzer fragt, ob es eine Möglichkeit gibt, auch unter Vulkan die GPU-Reihenfolge zu steuern, oder ob das Upgrade der RTX 3060 die einzige praktikable Lösung wäre.
- Setup: RTX 3090 Ti + RTX 3060 12 GB + AMD RX 9700 → 68 GB Gesamt-VRAM
- CUDA erlaubte gestufte Priorisierung: schnellste GPU zuerst, dann langsamere, dann CPU-Offload
- Vulkan-Backend nötig, sobald NVIDIA- und AMD-GPUs gemischt werden
- Unter Vulkan ist laut Nutzer nur Layer-Verteilung über alle GPUs möglich, keine Priorisierung
- Als Alternative wird ein Upgrade der RTX 3060 auf eine Karte mit mehr VRAM erwogen
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.