★ Begriff· Training & Inferenz
Distillation
Trainiert ein kleineres „Student"-Modell, um die Outputs eines grösseren „Teacher"-Modells zu imitieren. Resultat: 80% der Qualität bei 10% der Inferenz-Kosten. DeepSeek-R1 distilliert in viele Open-Source-Varianten.
Verwandte Tools
Auch bekannt als
model distillation · knowledge distillation
Aktivität
42
Mentions in den letzten 7 Tagen
4 Wochen
⚡neu · 42×
Zuletzt erwähnt in
- ServiceNow veröffentlicht Apriel Voice 27B: Open-Source-Sprachmodell mit Tool-Use2026-10-29
- Anthropic geht an die Börse: S-1 eingereicht, IPO geplant2026-10-29
- OpenBonsai: Open-Source-Pipeline komprimiert BF16-Modelle auf ~2 GB Ternär-GGUF2026-10-29
- LlamAmpere v0.6: 112 TPS bei 100K Token-Kontext auf einer RTX 30902026-10-28
- Fin-SD: Selbst-Destillation für Finanz-Reasoning ohne externen Teacher2026-10-28