GTX-1080Ti + Radeon MI50: Dual-GPU-Setup für 30B-Modelle unter $140
Warum es zählt
Für unter $140 lässt sich mit einer gebrauchten MI50 der VRAM auf 27 GB erweitern, was Dense-Modelle bis 35B erstmals VRAM-seitig vollständig offloadbar macht. Vulkan ermöglicht dabei gemischte Nvidia/AMD-Setups ohne Treiberkonflikte unter Linux.
— Lumeric Redaktion
llama-bench tg128 (Token/s, Dual-GPU vs. Single-GPU) · Spitzenwert
1.51%
Gemma3 27B – Single GPU
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
GTX-1080Ti + Radeon MI50: Dual-GPU-Setup für 30B-Modelle unter $140
Warum es zählt
Für unter $140 lässt sich mit einer gebrauchten MI50 der VRAM auf 27 GB erweitern, was Dense-Modelle bis 35B erstmals VRAM-seitig vollständig offloadbar macht. Vulkan ermöglicht dabei gemischte Nvidia/AMD-Setups ohne Treiberkonflikte unter Linux.
— Lumeric Redaktion
llama-bench tg128 (Token/s, Dual-GPU vs. Single-GPU) · Spitzenwert
1.51%
Gemma3 27B – Single GPU
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.