MindControl für Llama.cpp: Geführte Reasoning-Budgets im Benchmark
CompaniesMeta AI
Warum es zählt
Wer lokale Reasoning-Modelle betreibt, kann mit MindControl den Token-Verbrauch um bis zu 50 % senken, ohne Genauigkeit auf Standard-Tasks einzubüßen. Für sehr schwere Aufgaben bleibt ein Rückgang bestehen – Budget-Steuerung ersetzt hier kein größeres Denkbudget.
— Lumeric Redaktion
HumanEval+ · Spitzenwert
95.1%
Naive (hard truncate)
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
- FORSCHUNGarxiv.org2w
DoubtLess: Training-freies Decoding kürzt CoT von Qwen3-32B um 31%
- FORSCHUNGarxiv.org1w
Budget-bewusste Multi-Turn-Agenten lernen Ressourcenallokation via Reward-Signale
- FORSCHUNGarxiv.org2w
Dynamic K-Head: Adaptiver Budget-Selektor für latentes Schließen
- FORSCHUNGarxiv.org2w
OTBench: Pareto-Analyse zur Bekämpfung von Overthinking in Reasoning-Modellen
MindControl für Llama.cpp: Geführte Reasoning-Budgets im Benchmark
CompaniesMeta AI
Warum es zählt
Wer lokale Reasoning-Modelle betreibt, kann mit MindControl den Token-Verbrauch um bis zu 50 % senken, ohne Genauigkeit auf Standard-Tasks einzubüßen. Für sehr schwere Aufgaben bleibt ein Rückgang bestehen – Budget-Steuerung ersetzt hier kein größeres Denkbudget.
— Lumeric Redaktion
HumanEval+ · Spitzenwert
95.1%
Naive (hard truncate)
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
- FORSCHUNGarxiv.org2w
DoubtLess: Training-freies Decoding kürzt CoT von Qwen3-32B um 31%
- FORSCHUNGarxiv.org1w
Budget-bewusste Multi-Turn-Agenten lernen Ressourcenallokation via Reward-Signale
- FORSCHUNGarxiv.org2w
Dynamic K-Head: Adaptiver Budget-Selektor für latentes Schließen
- FORSCHUNGarxiv.org2w
OTBench: Pareto-Analyse zur Bekämpfung von Overthinking in Reasoning-Modellen