MELT: Systematisches Benchmarking von LLMs auf Smartphones und Edge-Devices
Warum es zählt
Für Edge-Deployment zeigt die Studie konkret: iPhones mit LLMFarm/Metal sind schneller als Android-GPUs; Q4-Quantisierung schlägt Q3 in Durchsatz und Energieeffizienz; Prefill auf NVIDIA-Gerät + Decode auf Phone per WiFi 6 ist praktisch umsetzbar. Phones erreichen bis zu 47,1°C Oberflächentemperatur unter Last.
— Lumeric Redaktion
47,1 °C
Max. Oberflächentemperatur der Phones unter Last
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
MELT: Systematisches Benchmarking von LLMs auf Smartphones und Edge-Devices
Warum es zählt
Für Edge-Deployment zeigt die Studie konkret: iPhones mit LLMFarm/Metal sind schneller als Android-GPUs; Q4-Quantisierung schlägt Q3 in Durchsatz und Energieeffizienz; Prefill auf NVIDIA-Gerät + Decode auf Phone per WiFi 6 ist praktisch umsetzbar. Phones erreichen bis zu 47,1°C Oberflächentemperatur unter Last.
— Lumeric Redaktion
47,1 °C
Max. Oberflächentemperatur der Phones unter Last
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.