wird geladen

3M-Param-Transformer lernt neue Regeln zur Inferenzzeit ohne Backpropagation · Lumeric

Feed
Digest
Lounge
Stash
Profil

Beitrag

FORSCHUNG

reddit.com· r/LocalLLaMA2h

3M-Param-Transformer lernt neue Regeln zur Inferenzzeit ohne Backpropagation

ToolsClaude Claude Code DeepSeek

CompaniesAnthropic DeepSeek Meta AI

Warum es zählt

Fast-Weight-Memory schlägt Test-Time-Training bei 138× geringerem Kostenaufwand auf dieser Aufgabe — TTT überpasst seine Beispiele, transferiert aber nichts auf neue Queries. Für Continual-Learning-Ansätze ohne Backward-Pass relevant, allerdings bisher nur auf synthetischen Kleinstskala-Experimenten gezeigt.

— Lumeric Redaktion

Quelle lesenreddit.com

0.79–1.00 Genauigkeit

auf ungesehenen Queries, single Forward-Pass

Foundation Modelle Inferenz Infra Open Source

Frag die KI zum Artikel

Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.

Verwandte Beiträge

FORSCHUNGarxiv.org10h
FAST-Framework beschleunigt Temporal-GNN-Training um bis zu 4,7×
FORSCHUNGarxiv.org3w
MTI verbessert LLM-Reasoning ohne Training durch gezielte Inferenz-Eingriffe
FORSCHUNGarxiv.org0mo
PoLar: LLM-Inferenz durch dynamisches Überspringen oder Wiederholen von Schichten
FORSCHUNGarxiv.org2w
Kontinuierliches LLM-Selbstlernen via leichtgewichtiger latenter Memories

FORSCHUNG

reddit.com· r/LocalLLaMA2h

3M-Param-Transformer lernt neue Regeln zur Inferenzzeit ohne Backpropagation

ToolsClaude Claude Code DeepSeek

CompaniesAnthropic DeepSeek Meta AI

Warum es zählt

Fast-Weight-Memory schlägt Test-Time-Training bei 138× geringerem Kostenaufwand auf dieser Aufgabe — TTT überpasst seine Beispiele, transferiert aber nichts auf neue Queries. Für Continual-Learning-Ansätze ohne Backward-Pass relevant, allerdings bisher nur auf synthetischen Kleinstskala-Experimenten gezeigt.

— Lumeric Redaktion

0.79–1.00 Genauigkeit

auf ungesehenen Queries, single Forward-Pass

Frag die KI zum Artikel

Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.

Quelle lesenreddit.com

Themen

Foundation Modelle Inferenz Infra Open Source

Reaktion

Speichern

Verwandte Beiträge

FORSCHUNGarxiv.org10h
FAST-Framework beschleunigt Temporal-GNN-Training um bis zu 4,7×
FORSCHUNGarxiv.org3w
MTI verbessert LLM-Reasoning ohne Training durch gezielte Inferenz-Eingriffe
FORSCHUNGarxiv.org0mo
PoLar: LLM-Inferenz durch dynamisches Überspringen oder Wiederholen von Schichten
FORSCHUNGarxiv.org2w
Kontinuierliches LLM-Selbstlernen via leichtgewichtiger latenter Memories