650+ Apache-2.0 Biomedizin-NER-Modelle laufen 30–40× schneller via MLX auf Apple Silicon
ToolsHugging Face
CompaniesHugging Face
Warum es zählt
Klinische NER-Modelle (DeBERTa-v2, 434M) laufen on-device auf Apple Silicon 30–40× schneller als auf CPU – bei byte-identischen Ergebnissen. Für Privacy-sensible medizinische Anwendungen ermöglicht das lokale PII-Redaktion ohne Datentransfer, auch auf iPhone/iPad via Swift-Package.
— Lumeric Redaktion
MLX vs. PyTorch-CPU Inferenzzeit (434M DeBERTa-v2, fp32) · Spitzenwert
36%
MLX – NER (M3 Max)
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
650+ Apache-2.0 Biomedizin-NER-Modelle laufen 30–40× schneller via MLX auf Apple Silicon
ToolsHugging Face
CompaniesHugging Face
Warum es zählt
Klinische NER-Modelle (DeBERTa-v2, 434M) laufen on-device auf Apple Silicon 30–40× schneller als auf CPU – bei byte-identischen Ergebnissen. Für Privacy-sensible medizinische Anwendungen ermöglicht das lokale PII-Redaktion ohne Datentransfer, auch auf iPhone/iPad via Swift-Package.
— Lumeric Redaktion
MLX vs. PyTorch-CPU Inferenzzeit (434M DeBERTa-v2, fp32) · Spitzenwert
36%
MLX – NER (M3 Max)
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.