PCIe-Slot-Fehler halbiert Multi-GPU-Performance: 4× RTX 3090 Praxiswarnung
Warum es zählt
Wer Multi-GPU-Rigs mit älteren HEDT-Boards baut, muss die elektrische Lane-Belegung im Manual prüfen – physisch x16-lange Slots können elektrisch nur x4 oder PCIe 2.0 sein. `--split-mode tensor` statt `layer` in llama.cpp kann zusätzlich erhebliche Performance-Gewinne bringen.
— Lumeric Redaktion
24,7 tok/s (vorher 11 tok/s)
Mistral 128B Q4_K nach PCIe-Fix
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
PCIe-Slot-Fehler halbiert Multi-GPU-Performance: 4× RTX 3090 Praxiswarnung
Warum es zählt
Wer Multi-GPU-Rigs mit älteren HEDT-Boards baut, muss die elektrische Lane-Belegung im Manual prüfen – physisch x16-lange Slots können elektrisch nur x4 oder PCIe 2.0 sein. `--split-mode tensor` statt `layer` in llama.cpp kann zusätzlich erhebliche Performance-Gewinne bringen.
— Lumeric Redaktion
24,7 tok/s (vorher 11 tok/s)
Mistral 128B Q4_K nach PCIe-Fix
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.