★ Begriff· Modell-Architektur
Attention
Mechanismus, mit dem ein Modell Token-Beziehungen im Input gewichtet — bestimmt, welche Teile des Kontexts für die Vorhersage des nächsten Tokens wichtig sind. Kern-Operation im Transformer.
Verwandte Tools
Auch bekannt als
attention mechanism · self-attention · self attention
Aktivität
11
Mentions in den letzten 7 Tagen
4 Wochen
⚡neu · 11×
Zuletzt erwähnt in
- LIMe reduziert LLM-Trainingsaufwand um 15 % ohne Qualitätsverlust2026-10-29
- HIDRA: Hierarchisches Dual-Routing-Attention für kontinuierliches Imitation Learning ohne Replay2026-10-28
- MIDAS modernisiert Neural Architecture Search mit input-spezifischer Selbstaufmerksamkeit2026-10-28
- CLARiTy: Vision Transformer für Klassifikation und Lokalisation von Röntgen-Pathologien2026-10-28
- Quantensprachmodell FC-QBM-LM mit nur 44 Parametern trainiert Tang-Lyrik2026-10-28