Tmax-27B: Qwen3.6-basierter Terminal-Agent läuft per GGUF-Quant auf Consumer-GPUs
CompaniesHugging Face
Warum es zählt
Importance-Matrix-Kalibrierung rettet die Agenten-Performance bei 2-Bit-Quants: IQ2_XS (8,5 GiB) erzielt dieselbe 70% Pass-Rate wie IQ4_XS (14 GiB), während unkalibriertes Q2_K auf 50% fällt. Damit wird ein 27B-Terminal-Agent auf RTX-5070-Klasse-Hardware praxistauglich.
— Lumeric Redaktion
SWE-rebench (10 Instanzen, pass_rate) · Spitzenwert
50%
Q2_K (plain)
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
Tmax-27B: Qwen3.6-basierter Terminal-Agent läuft per GGUF-Quant auf Consumer-GPUs
CompaniesHugging Face
Warum es zählt
Importance-Matrix-Kalibrierung rettet die Agenten-Performance bei 2-Bit-Quants: IQ2_XS (8,5 GiB) erzielt dieselbe 70% Pass-Rate wie IQ4_XS (14 GiB), während unkalibriertes Q2_K auf 50% fällt. Damit wird ein 27B-Terminal-Agent auf RTX-5070-Klasse-Hardware praxistauglich.
— Lumeric Redaktion
SWE-rebench (10 Instanzen, pass_rate) · Spitzenwert
50%
Q2_K (plain)
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.