Dual-3090-Setup mit Ubuntu: 4000 PP/s und 113 t/s lokal ohne NVLink
Der Reddit-Nutzer RedShiftedTime beschreibt seine Erfahrungen mit einem Zwei-GPU-Setup aus zwei RTX-3090-Karten (48 GB VRAM gesamt, kein NVLink) unter dem Open-Source-Projekt „club-3090" von GitHub-Nutzer noonghunna. Nach anfänglichem Betrieb unter WSL2 – mit etwa 30 t/s und 400 PP/s – wechselte er zu nativem Ubuntu als Dual-Boot und erzielte damit rund 4000 PP/s und 113 t/s. Als primäres Modell setzt er Qwen 3.6 27B mit 262k-Kontext ein, das er als „nahezu Sonnet-Niveau" bei deutlich höherer Geschwindigkeit als Cloud-Dienste bewertet. Praktischer Einsatz: Code-Reviews und Monkey-Patches via SSH. Zwei Bugs im club-3090-Projekt – ein SSE-Session-Drop und ein Tool-Calling-Fehler – wurden mithilfe von Claude Sonnet gepatcht. Als nächsten Upgrade-Pfad diskutiert der Nutzer ein M5 Ultra mit 512 GB RAM kombiniert mit mehreren DGX Sparks für höhere Prompt-Processing-Geschwindigkeit.
- club-3090 ist ein Open-Source-Projekt auf GitHub (noonghunna), das Multi-GPU-Inferenz auf Consumer-Hardware adressiert.
- WSL2 vs. Ubuntu nativ: PP/s-Unterschied ~10×, t/s von ~30 auf 113 gestiegen.
- Qwen 3.6 27B läuft mit 262k Kontext auf 48 GB VRAM (2× RTX 3090, kein NVLink).
- NVLink wäre laut Post noch schneller – wurde nicht getestet.
- Nutzer spekuliert über frontier-nahe Intelligenz in kleineren Modellen in den nächsten 12 Monaten.
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
Dual-3090-Setup mit Ubuntu: 4000 PP/s und 113 t/s lokal ohne NVLink
Der Reddit-Nutzer RedShiftedTime beschreibt seine Erfahrungen mit einem Zwei-GPU-Setup aus zwei RTX-3090-Karten (48 GB VRAM gesamt, kein NVLink) unter dem Open-Source-Projekt „club-3090" von GitHub-Nutzer noonghunna. Nach anfänglichem Betrieb unter WSL2 – mit etwa 30 t/s und 400 PP/s – wechselte er zu nativem Ubuntu als Dual-Boot und erzielte damit rund 4000 PP/s und 113 t/s. Als primäres Modell setzt er Qwen 3.6 27B mit 262k-Kontext ein, das er als „nahezu Sonnet-Niveau" bei deutlich höherer Geschwindigkeit als Cloud-Dienste bewertet. Praktischer Einsatz: Code-Reviews und Monkey-Patches via SSH. Zwei Bugs im club-3090-Projekt – ein SSE-Session-Drop und ein Tool-Calling-Fehler – wurden mithilfe von Claude Sonnet gepatcht. Als nächsten Upgrade-Pfad diskutiert der Nutzer ein M5 Ultra mit 512 GB RAM kombiniert mit mehreren DGX Sparks für höhere Prompt-Processing-Geschwindigkeit.
- club-3090 ist ein Open-Source-Projekt auf GitHub (noonghunna), das Multi-GPU-Inferenz auf Consumer-Hardware adressiert.
- WSL2 vs. Ubuntu nativ: PP/s-Unterschied ~10×, t/s von ~30 auf 113 gestiegen.
- Qwen 3.6 27B läuft mit 262k Kontext auf 48 GB VRAM (2× RTX 3090, kein NVLink).
- NVLink wäre laut Post noch schneller – wurde nicht getestet.
- Nutzer spekuliert über frontier-nahe Intelligenz in kleineren Modellen in den nächsten 12 Monaten.
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.