Donnerstag9. Juli

Das Modell-Kosten-Kalkül verschärft sich: xAI hat Grok 4.5 veröffentlicht, das auf Coding- und Agenten-Workloads zielt und mit $2 pro Million Input-Token radikal unter der Konkurrenz liegt — Fable 5 kostet $10, Opus 4.8 $5, GPT-5.5 ebenfalls $5. Auf Terminal Bench 2.1 kommt Grok 4.5 mit 83,3 % fast an GPT-5.5 (83,4 %) und Fable 5 (84,3 %) heran; beim praxisnaheren DeepSWE 1.1 klafft jedoch eine Lücke: 53 % gegenüber 67 % (GPT-5.5) und 70 % (Fable 5). Hinzu kommt, dass xAI einen 4,2-fach niedrigeren Token-Verbrauch als Opus 4.8 auf SWE-Bench-Pro-Tasks angibt — ein Faktor, der die Gesamtkosten je Aufgabe weiter drückt. Die Strategie erinnert explizit an das Vorgehen chinesischer Anbieter wie Zhipu und DeepSeek: Performance annähern, dann über den Preis gewinnen. Allerdings ist das Modell in der EU vorläufig nicht verfügbar; xAI peilt Mitte Juli an. Dass solche Benchmarks mit Vorsicht zu genießen sind, zeigt OpenAIs eigene Analyse zu SWE-Bench Pro: Der verbreitete Coding-Benchmark hat demnach Qualitätsmängel, die seine Aussagekraft zur Modellbewertung grundsätzlich in Frage stellen.

Anthropic reagiert auf den Preisdruck mit einer Architekturregel statt einer Preissenkung. Die Claude-Advisor- und Orchestrator-Pattern-Empfehlung kombiniert Fable 5 als Planer mit Sonnet 5 als Ausführer: Im Advisor-Modus — Sonnet 5 übernimmt die Ausführung, ruft Fable 5 nur bei Bedarf — erreicht das Gespann laut Anthropic auf SWE-Bench Pro rund 92 % von Fable 5s Solo-Leistung bei 63 % der Kosten. Im Orchestrator-Modus, bei dem Fable 5 plant und mehrere Sonnet-5-Agenten die Arbeit erledigen, sollen auf BrowseComp sogar 96 % der Performance bei 46 % der Kosten erreichbar sein. Beide Pattern laufen über Claude Managed Agents, jeder Sub-Agent nutzt einen eigenen Cache. Parallel dazu hat OpenAI mit GPT-Live-1 ein neues Sprachmodell gestartet, das als Full-Duplex-Modell Sprechen und Zuhören gleichzeitig verarbeitet. GPT-Live-1 leitet bei Reasoning- und Suchbedarf automatisch an GPT-5.5 weiter und ergänzt Gespräche über Wetter, Börse oder Sport mit KI-generierten Visuals. Ein kleineres GPT-Live-1 mini wird Standard für Free-Nutzer; die größere Variante steht Go-, Plus- und Pro-Abonnenten zur Verfügung.

Das vielleicht konkreteste Bild davon, wozu agentengestützte Entwicklung heute taugt, liefert Jarred Sumners Bun-Rewrite von Zig nach Rust: In elf Tagen entstanden über eine Million Zeilen Rust-Code, generiert von einem Agenten-Harness auf Basis einer TypeScript-Konformanz-Suite — einem sprachunabhängigen Testnetz mit einer Million Assertions. Die Methodik kombinierte adversariales Code-Review mit dem Prinzip, bei Fehlern den Prozess zu reparieren statt den Code manuell zu patchen. Die geschätzten Kosten: rund $165.000 bei API-Preisen (5,9 Mrd. unkachedete Input-Token, 690 Mio. Output-Token, 72 Mrd. gecachte Input-Token-Lesezugriffe). Das Ergebnis läuft seit Claude Code v2.1.181 (veröffentlicht 17. Juni) in Produktion — mit 10 % schnellerem Start auf Linux, sonst kaum merklich. Die Kehrseite großskaliger KI-Codegenerierung tritt gleichzeitig scharf hervor: Kenton Varda verhängte ein Moratorium gegen KI-geschriebene Commit- und PR-Beschreibungen in seinem Team. Der Befund: KI-generierte Change-Descriptions liefern Detailbeschreibungen, die man ohnehin im Code sieht — der nötige übergeordnete Kontext für sinnvolles Code-Review fehlt dagegen.

Dass die Agenten-Ära eine grundlegend andere Infrastruktur verlangt, arbeitet Modal-CTO Akshat Bubna im Latent-Space-Podcast systematisch durch: Das klassische Cloud-Stack war für Menschen gebaut, die YAML lesen und Dashboards interpretieren können. Agenten brauchen andere Primitive — schnelle Sandbox-Starts, GPU-Snapshotting, elastische Inferenz und harte Guardrails. Konkret nennt Bubna bis zu 100.000 parallele RL-Rollouts, für die entsprechend viele Sandboxes gleichzeitig hochgefahren werden müssen. Modal hat zuletzt eine $355-Mio.-Series-C-Runde abgeschlossen. Auf Framework-Ebene liefert PyTorch 2.13 passende Bausteine: FlexAttention läuft erstmals nativ auf Apple Silicon mit bis zu 12-fachem Speedup gegenüber SDPA auf spärlichen Mustern; `nn.LinearCrossEntropyLoss` halbiert den Peak-GPU-Speicher bei großen Vokabularen bis um Faktor 4; FSDP2 erhöht den Distributed-Throughput durch Kommunikationsüberlappung. Das Release bündelt 3.328 Commits von 526 Contributors.

Zwei spezialisierte Open-Source-Projekte runden das Bild ab. audio.cpp integriert vier ASR-Modelle — darunter Nemotron 3.5 — in einem GGML-basierten C++-Framework ohne Python-Abhängigkeit: Nemotron transkribiert 327 Sekunden Audio in 2,17 Sekunden bei 3,18 % WER auf einer RTX 5090; der SSE-Streaming-Pfad halbiert den VRAM-Bedarf von 8,3 GB auf 4,4 GB bei gleichem Fehlerrate-Niveau. Microsoft Research hat Flint veröffentlicht, eine Open-Source-Visualisierungssprache, die KI-Agenten erlaubt, aus kompakten, menschlich editierbaren Specs polierte Charts zu erzeugen — der Compiler leitet daraus alle Low-Level-Parameter für Skalen, Abstände und Layouts ab. Eine einzige Flint-Spec kann zu Vega-Lite, Apache ECharts oder Chart.js kompiliert werden, was Human-in-the-Loop-Korrekturen in Agenten-Pipelines wesentlich erleichtert.