Dual-3090-Setup mit Ubuntu: 4000 PP/s und 113 t/s lokal ohne NVLink
Der Reddit-Nutzer RedShiftedTime beschreibt seine Erfahrungen mit einem Zwei-GPU-Setup aus zwei RTX-3090-Karten (48 GB VRAM gesamt, kein NVLink) unter dem Open-Source-Projekt „club-3090" von GitHub-Nutzer noonghunna. Nach anfänglichem Betrieb unter WSL2 – mit etwa 30 t/s und 400 PP/s – wechselte er zu nativem Ubuntu als Dual-Boot und erzielte damit rund 4000 PP/s und 113 t/s. Als primäres Modell setzt er Qwen 3.6 27B mit 262k-Kontext ein, das er als „nahezu Sonnet-Niveau" bei deutlich höherer Geschwindigkeit als Cloud-Dienste bewertet. Praktischer Einsatz: Code-Reviews und Monkey-Patches via SSH. Zwei Bugs im club-3090-Projekt – ein SSE-Session-Drop und ein Tool-Calling-Fehler – wurden mithilfe von Claude Sonnet gepatcht. Als nächsten Upgrade-Pfad diskutiert der Nutzer ein M5 Ultra mit 512 GB RAM kombiniert mit mehreren DGX Sparks für höhere Prompt-Processing-Geschwindigkeit.
- club-3090 ist ein Open-Source-Projekt auf GitHub (noonghunna), das Multi-GPU-Inferenz auf Consumer-Hardware adressiert.
- WSL2 vs. Ubuntu nativ: PP/s-Unterschied ~10×, t/s von ~30 auf 113 gestiegen.
- Qwen 3.6 27B läuft mit 262k Kontext auf 48 GB VRAM (2× RTX 3090, kein NVLink).
- NVLink wäre laut Post noch schneller – wurde nicht getestet.
- Nutzer spekuliert über frontier-nahe Intelligenz in kleineren Modellen in den nächsten 12 Monaten.
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
- MEINUNGreddit.com1w
Kostenloser Hack steigert NVIDIA 3090 Inferenzgeschwindigkeit um bis zu 30 %
- MEINUNGreddit.com2d
club-3090 QEngine-Preset: Qwen3.8-27B-INT4 deutlich schneller als FP8 auf Dual-3090
- MEINUNGreddit.com5d
Community-Diskussion: Hardware-Optimierung für lokale LLMs mit AMD R9700 und RTX3090
- MEINUNGreddit.com3w
Community sucht schnelle Inference-Engine für Qwen3-35B-MoE auf RTX 3090
Dual-3090-Setup mit Ubuntu: 4000 PP/s und 113 t/s lokal ohne NVLink
Der Reddit-Nutzer RedShiftedTime beschreibt seine Erfahrungen mit einem Zwei-GPU-Setup aus zwei RTX-3090-Karten (48 GB VRAM gesamt, kein NVLink) unter dem Open-Source-Projekt „club-3090" von GitHub-Nutzer noonghunna. Nach anfänglichem Betrieb unter WSL2 – mit etwa 30 t/s und 400 PP/s – wechselte er zu nativem Ubuntu als Dual-Boot und erzielte damit rund 4000 PP/s und 113 t/s. Als primäres Modell setzt er Qwen 3.6 27B mit 262k-Kontext ein, das er als „nahezu Sonnet-Niveau" bei deutlich höherer Geschwindigkeit als Cloud-Dienste bewertet. Praktischer Einsatz: Code-Reviews und Monkey-Patches via SSH. Zwei Bugs im club-3090-Projekt – ein SSE-Session-Drop und ein Tool-Calling-Fehler – wurden mithilfe von Claude Sonnet gepatcht. Als nächsten Upgrade-Pfad diskutiert der Nutzer ein M5 Ultra mit 512 GB RAM kombiniert mit mehreren DGX Sparks für höhere Prompt-Processing-Geschwindigkeit.
- club-3090 ist ein Open-Source-Projekt auf GitHub (noonghunna), das Multi-GPU-Inferenz auf Consumer-Hardware adressiert.
- WSL2 vs. Ubuntu nativ: PP/s-Unterschied ~10×, t/s von ~30 auf 113 gestiegen.
- Qwen 3.6 27B läuft mit 262k Kontext auf 48 GB VRAM (2× RTX 3090, kein NVLink).
- NVLink wäre laut Post noch schneller – wurde nicht getestet.
- Nutzer spekuliert über frontier-nahe Intelligenz in kleineren Modellen in den nächsten 12 Monaten.
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
- MEINUNGreddit.com1w
Kostenloser Hack steigert NVIDIA 3090 Inferenzgeschwindigkeit um bis zu 30 %
- MEINUNGreddit.com2d
club-3090 QEngine-Preset: Qwen3.8-27B-INT4 deutlich schneller als FP8 auf Dual-3090
- MEINUNGreddit.com5d
Community-Diskussion: Hardware-Optimierung für lokale LLMs mit AMD R9700 und RTX3090
- MEINUNGreddit.com3w
Community sucht schnelle Inference-Engine für Qwen3-35B-MoE auf RTX 3090