Reasoning hilft kleinen 9B-Modellen bei komplexen Rechtssummaries kaum
CompaniesHugging Face
Warum es zählt
Bei 9B-Modellen verbessert Reasoning-Destillation die Qualität nicht zuverlässig – je nach Basis-Modell gewinnt mal Thinking, mal No-Thinking. Für komplexe Domänenanwendungen (z.B. Legal) scheint eine Mindestmodellgröße von 27B nötig zu sein, bevor CoT-Distillation konsistent wirkt.
— Lumeric Redaktion
Legal Summary Eval vs. Opus 5 (30 Polish Court Decisions) · Spitzenwert
33%
CPT 9B thinking vs. no-thinking
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
- FORSCHUNGarxiv.org0mo
Self-Distillation verbessert Reasoning kaum – Studie widerlegt Effizienzvorteile
- FORSCHUNGarxiv.org1w
WISD: Selbst-Destillation durch Abschwächung stärkt Reasoning-Modelle
- FORSCHUNGarxiv.org0mo
DoubtLess: Training-freies Decoding kürzt CoT von Qwen3-32B um 31%
- FORSCHUNGarxiv.org3w
DIA-Framework reduziert Token-Verbrauch um 47 % bei besserem Reasoning
Reasoning hilft kleinen 9B-Modellen bei komplexen Rechtssummaries kaum
CompaniesHugging Face
Warum es zählt
Bei 9B-Modellen verbessert Reasoning-Destillation die Qualität nicht zuverlässig – je nach Basis-Modell gewinnt mal Thinking, mal No-Thinking. Für komplexe Domänenanwendungen (z.B. Legal) scheint eine Mindestmodellgröße von 27B nötig zu sein, bevor CoT-Distillation konsistent wirkt.
— Lumeric Redaktion
Legal Summary Eval vs. Opus 5 (30 Polish Court Decisions) · Spitzenwert
33%
CPT 9B thinking vs. no-thinking
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
- FORSCHUNGarxiv.org0mo
Self-Distillation verbessert Reasoning kaum – Studie widerlegt Effizienzvorteile
- FORSCHUNGarxiv.org1w
WISD: Selbst-Destillation durch Abschwächung stärkt Reasoning-Modelle
- FORSCHUNGarxiv.org0mo
DoubtLess: Training-freies Decoding kürzt CoT von Qwen3-32B um 31%
- FORSCHUNGarxiv.org3w
DIA-Framework reduziert Token-Verbrauch um 47 % bei besserem Reasoning