Tinkerbox: LiquidAI d1-3B mit 40 ms Latenz auf Apple Neural Engine
CompaniesHugging Face
Warum es zählt
Decision-Modelle wie d1-3B umgehen die ANE-Schwäche bei autoregressivem Decoding durch einen Tree-Pass-Ansatz. AI-Builder können damit leistungsfähige On-Device-Entscheidungslogik in macOS-Workflows (E-Mail, Dateisystem, Zeitauslöser) integrieren – ohne Server und ohne Code.
— Lumeric Redaktion
~40 ms
Latenz auf M5 Pro, Kontextlänge <256 Token
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
Tinkerbox: LiquidAI d1-3B mit 40 ms Latenz auf Apple Neural Engine
CompaniesHugging Face
Warum es zählt
Decision-Modelle wie d1-3B umgehen die ANE-Schwäche bei autoregressivem Decoding durch einen Tree-Pass-Ansatz. AI-Builder können damit leistungsfähige On-Device-Entscheidungslogik in macOS-Workflows (E-Mail, Dateisystem, Zeitauslöser) integrieren – ohne Server und ohne Code.
— Lumeric Redaktion
~40 ms
Latenz auf M5 Pro, Kontextlänge <256 Token
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.