Mica v0.1 4B: Open-Source Entscheidungsmodell für Agent-Loops auf 8-GB-GPU
Warum es zählt
Mica läuft mit 47 ms Latenz auf einer RTX 3090 und passt als Q5_K_M mit 3,5 GB ins VRAM – damit ist ein spezialisierter Entscheidungs-Router lokal deploybar, ohne ein großes General-Purpose-LLM zu benötigen. Die Prompt-Injection-Resistenz (69 % korrekt bei manipuliertem State) ist ein konkreter Vorteil gegenüber Kev und Jev in produktiven Agent-Pipelines.
— Lumeric Redaktion
Held-out Decision Set (7 328 Items) · Spitzenwert
74.1%
Jev 1.13 (closed)
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
Mica v0.1 4B: Open-Source Entscheidungsmodell für Agent-Loops auf 8-GB-GPU
Warum es zählt
Mica läuft mit 47 ms Latenz auf einer RTX 3090 und passt als Q5_K_M mit 3,5 GB ins VRAM – damit ist ein spezialisierter Entscheidungs-Router lokal deploybar, ohne ein großes General-Purpose-LLM zu benötigen. Die Prompt-Injection-Resistenz (69 % korrekt bei manipuliertem State) ist ein konkreter Vorteil gegenüber Kev und Jev in produktiven Agent-Pipelines.
— Lumeric Redaktion
Held-out Decision Set (7 328 Items) · Spitzenwert
74.1%
Jev 1.13 (closed)
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.