★ Begriff· Training & Inferenz
Distillation
Trainiert ein kleineres „Student"-Modell, um die Outputs eines grösseren „Teacher"-Modells zu imitieren. Resultat: 80% der Qualität bei 10% der Inferenz-Kosten. DeepSeek-R1 distilliert in viele Open-Source-Varianten.
Verwandte Tools
Auch bekannt als
model distillation · knowledge distillation
Aktivität
41
Mentions in den letzten 7 Tagen
4 Wochen
⚡neu · 41×
Zuletzt erwähnt in
- Kompaktes Thai-TTS-Modell via Knowledge Distillation aus synthetischen Daten2026-09-14
- BRIDGE-EEG: Effiziente EEG-Klassifikation via Knowledge Distillation für Edge-Hardware2026-09-14
- Byte-Modelle übertreffen Token-Modelle bei hohem Compute durch Distillation2026-09-14
- Spatial-FAD verbessert Few-Shot-Anomalieerkennung in Medizinbildern mit CLIP und DINO2026-09-14
- Countdown-Code: Testumgebung zur Messung von Reward Hacking in RLVR2026-09-14