2.3bpw-Quant von Qwen 27B erreicht Qwen3.6 BF16-Niveau auf LiveCode Bench
CompaniesHugging Face
Warum es zählt
Nutzer mit 12-GB-Karten (z.B. RTX 3090/3080 Ti) können damit ein Modell auf Qwen3.6-BF16-Niveau mit 200K+ Kontext bei über 90 TPS betreiben. Der on-card Footprint beträgt nur 7.4 GiB, was Single-GPU-Agentic-Workloads deutlich zugänglicher macht.
— Lumeric Redaktion
LiveCode Bench · Spitzenwert
84.3%
Qwen3.8-27B ATX 2.3bpw (neu)
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
- LAUNCHreddit.com3w
LlamAmpere: Qwen3 27B mit 200K Kontext auf 12-GB-Ampere-GPUs
- LAUNCHreddit.com1w
Qwen3.8-Flash-Next als 1,66bpw-exl3-Quant stabil auf einer RTX 5090
- BENCHMARKreddit.com3d
Qwen3.8-27B EXL3-Quant mit KLD 0.0002 bei nur 18,8 GiB VRAM
- FORSCHUNGreddit.com1w
Qwen3-8-27B: Prefiller-Modell verbessert Low-Quant-Genauigkeit via SSD-Streaming
2.3bpw-Quant von Qwen 27B erreicht Qwen3.6 BF16-Niveau auf LiveCode Bench
CompaniesHugging Face
Warum es zählt
Nutzer mit 12-GB-Karten (z.B. RTX 3090/3080 Ti) können damit ein Modell auf Qwen3.6-BF16-Niveau mit 200K+ Kontext bei über 90 TPS betreiben. Der on-card Footprint beträgt nur 7.4 GiB, was Single-GPU-Agentic-Workloads deutlich zugänglicher macht.
— Lumeric Redaktion
LiveCode Bench · Spitzenwert
84.3%
Qwen3.8-27B ATX 2.3bpw (neu)
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
- LAUNCHreddit.com3w
LlamAmpere: Qwen3 27B mit 200K Kontext auf 12-GB-Ampere-GPUs
- LAUNCHreddit.com1w
Qwen3.8-Flash-Next als 1,66bpw-exl3-Quant stabil auf einer RTX 5090
- BENCHMARKreddit.com3d
Qwen3.8-27B EXL3-Quant mit KLD 0.0002 bei nur 18,8 GiB VRAM
- FORSCHUNGreddit.com1w
Qwen3-8-27B: Prefiller-Modell verbessert Low-Quant-Genauigkeit via SSD-Streaming