Budget-KI-Rig aus Serverabfall: Xeon E5 + RTX 3090 für unter 800€
Warum es zählt
Zeigt praxisnah, was mit gebrauchter Server-Hardware für lokale LLMs möglich ist: DeepSeek V4 Flash (Q4_K_XL) läuft mit 6,62 t/s TG und 37,47 t/s PP, Cydonia v4.3 (Mistral Small 3.2 Finetune) erreicht 7,8 t/s TG und 308,92 t/s PP – brauchbar für Experimente trotz DDR3 und halber Speicherkanäle.
— Lumeric Redaktion
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
Budget-KI-Rig aus Serverabfall: Xeon E5 + RTX 3090 für unter 800€
Warum es zählt
Zeigt praxisnah, was mit gebrauchter Server-Hardware für lokale LLMs möglich ist: DeepSeek V4 Flash (Q4_K_XL) läuft mit 6,62 t/s TG und 37,47 t/s PP, Cydonia v4.3 (Mistral Small 3.2 Finetune) erreicht 7,8 t/s TG und 308,92 t/s PP – brauchbar für Experimente trotz DDR3 und halber Speicherkanäle.
— Lumeric Redaktion
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.