Inception veröffentlicht Mercury 3 Diffusion LLM mit 1.068 Tokens pro Sekunde
Warum es zählt
Mercury 3 zeigt, dass Diffusion-LLMs bei Inferenzgeschwindigkeit und Kontextlänge mit etablierten Modellen konkurrieren können. Für AI-Builder relevant, die latenzoptimierte Deployments benötigen.
— Lumeric Redaktion
1.068 Tokens/s
Inferenzgeschwindigkeit bei 1M-Token-Kontext
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
Inception veröffentlicht Mercury 3 Diffusion LLM mit 1.068 Tokens pro Sekunde
Warum es zählt
Mercury 3 zeigt, dass Diffusion-LLMs bei Inferenzgeschwindigkeit und Kontextlänge mit etablierten Modellen konkurrieren können. Für AI-Builder relevant, die latenzoptimierte Deployments benötigen.
— Lumeric Redaktion
1.068 Tokens/s
Inferenzgeschwindigkeit bei 1M-Token-Kontext
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.