Ante 0.2: 15 MB Coding-Agent betreibt llama.cpp vollständig offline
Ante 0.2 ist ein Coding-Agent des Teams AntigmaLabs, der als einzelne, selbstenthaltene Binary (~15 MB) ausgeliefert wird und intern eine gepinnte, checksum-verifizierte llama.cpp-Version mitbringt. Die Engine-Auswahl erfolgt hardware-spezifisch: Auf Apple-Silicon-Macs wird Metal genutzt, auf Linux wahlweise CUDA, Vulkan oder CPU-Fallback. Ante scannt beim Start automatisch mehrere Verzeichnisse nach vorhandenen GGUF-Modellen — darunter `~/.ante/models`, den llama.cpp-Cache und den Hugging-Face-Cache — und erkennt außerdem bereits laufende llama-Server auf lokalen Ports. Besonders hervorzuheben ist die Speicherabschätzung vor dem Modell-Laden: Das Tool berechnet RAM- und VRAM-Bedarf aus Modellgröße, KV-Cache und Kontextfenster, bevor irgendein Tensor geladen wird. Der Lifecycle des Inference-Servers — Start, Überwachung und Shutdown — wird vollständig über die integrierte TUI gesteuert; der Server kann aber auch nach Beenden von Ante weiterlaufen und später wieder angehängt werden. Mit dem Befehl `ante serve --offline-model` lässt sich ein Modell einmal laden und für mehrere Clients freigeben. Seit dem Preview-Launch hat Ante nach eigenen Angaben fast 7 Billionen Tokens verarbeitet, mit nahezu täglichen Releases.
- Benchmarks laufen mit demselben Harness, gepinnten Builds und auditierbaren Runs wie für Frontier-Modelle — Live-Ergebnisse unter antigma.ai/eval.
- Die Binary enthält neben dem Agent-Loop auch ein neu geschriebenes ripgrep sowie lokale PDF/OCR-Funktionalität — alles ohne externe Abhängigkeiten.
- Vision-Support ist automatisch aktiv, wenn eine passende `mmproj-*.gguf`-Datei neben dem Hauptmodell liegt.
- Mit `--profile` lässt sich Ante auf ein minimales Setup (vergleichbar mit pi-style) reduzieren; Telemetrie wird per `ANTE_TELEMETRY=off` vollständig deaktiviert.
- Ante wurde u.a. mit opencode, pi und hermes in einem Terminal-Bench-Experiment verglichen — Details im Antigma-Blogpost vom 2026-08-04.
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
- MEINUNGreddit.com3w
Qwen3-27B führt 80 Tool-Calls autonom durch – auf einer RTX 3090
- LAUNCHreddit.com1d
Coding Agent im Browser: Pi + MiniCPM5-2B via WebGPU
- MEINUNGreddit.com1w
Qwen3.8 27B auf 3090: Community-Debatte über lokale Agentic-Coding-Setups
- MEINUNGreddit.com3w
Community-Diskussion: Beste lokale AI-Harness für Coding und Agenten
Ante 0.2: 15 MB Coding-Agent betreibt llama.cpp vollständig offline
Ante 0.2 ist ein Coding-Agent des Teams AntigmaLabs, der als einzelne, selbstenthaltene Binary (~15 MB) ausgeliefert wird und intern eine gepinnte, checksum-verifizierte llama.cpp-Version mitbringt. Die Engine-Auswahl erfolgt hardware-spezifisch: Auf Apple-Silicon-Macs wird Metal genutzt, auf Linux wahlweise CUDA, Vulkan oder CPU-Fallback. Ante scannt beim Start automatisch mehrere Verzeichnisse nach vorhandenen GGUF-Modellen — darunter `~/.ante/models`, den llama.cpp-Cache und den Hugging-Face-Cache — und erkennt außerdem bereits laufende llama-Server auf lokalen Ports. Besonders hervorzuheben ist die Speicherabschätzung vor dem Modell-Laden: Das Tool berechnet RAM- und VRAM-Bedarf aus Modellgröße, KV-Cache und Kontextfenster, bevor irgendein Tensor geladen wird. Der Lifecycle des Inference-Servers — Start, Überwachung und Shutdown — wird vollständig über die integrierte TUI gesteuert; der Server kann aber auch nach Beenden von Ante weiterlaufen und später wieder angehängt werden. Mit dem Befehl `ante serve --offline-model` lässt sich ein Modell einmal laden und für mehrere Clients freigeben. Seit dem Preview-Launch hat Ante nach eigenen Angaben fast 7 Billionen Tokens verarbeitet, mit nahezu täglichen Releases.
- Benchmarks laufen mit demselben Harness, gepinnten Builds und auditierbaren Runs wie für Frontier-Modelle — Live-Ergebnisse unter antigma.ai/eval.
- Die Binary enthält neben dem Agent-Loop auch ein neu geschriebenes ripgrep sowie lokale PDF/OCR-Funktionalität — alles ohne externe Abhängigkeiten.
- Vision-Support ist automatisch aktiv, wenn eine passende `mmproj-*.gguf`-Datei neben dem Hauptmodell liegt.
- Mit `--profile` lässt sich Ante auf ein minimales Setup (vergleichbar mit pi-style) reduzieren; Telemetrie wird per `ANTE_TELEMETRY=off` vollständig deaktiviert.
- Ante wurde u.a. mit opencode, pi und hermes in einem Terminal-Bench-Experiment verglichen — Details im Antigma-Blogpost vom 2026-08-04.
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
- MEINUNGreddit.com3w
Qwen3-27B führt 80 Tool-Calls autonom durch – auf einer RTX 3090
- LAUNCHreddit.com1d
Coding Agent im Browser: Pi + MiniCPM5-2B via WebGPU
- MEINUNGreddit.com1w
Qwen3.8 27B auf 3090: Community-Debatte über lokale Agentic-Coding-Setups
- MEINUNGreddit.com3w
Community-Diskussion: Beste lokale AI-Harness für Coding und Agenten