Mittwoch21. Oktober

Die Kostenfrage steht im Zentrum des heutigen Tages – und sie stellt sich auf mehreren Ebenen gleichzeitig. Perplexity AI veröffentlichte pplx-decider-v1.2 und pplx-decider-flash-v1.2 unter Apache-2.0-Lizenz, die laut Artificial Analysis Decision Index gleichwertige Entscheidungsqualität bei einem Zehntel der Kosten von GPT-6 Luna liefern. Für Teams, die auf Entscheidungs-APIs aufbauen, ist das ein substanzieller Hebel – zumal die Open-Source-Lizenz Self-Hosting ermöglicht und damit die Abhängigkeit von Drittanbietern reduziert. Dass diese Abhängigkeiten real riskant sind, zeigt der Nettoverlust von über 80 Milliarden USD, den Anthropic in H1 2026 eingefahren hat, berichtet das WSJ laut Reuters. Der Kapitalbedarf des Frontier-AI-Geschäfts ist damit auch für gut finanzierte Anbieter erdrückend – wer auf einzelne API-Anbieter setzt, trägt entsprechendes Gegenparteirisiko. Parallel dazu zeigt eine Analyse aus 27 Unternehmen im Pragmatic Engineer, dass KI-Ausgaben nicht mit Unternehmensgröße korrelieren, der PR-Throughput via CodeRabbit-Daten aber grob verdoppelt wurde – während Spending-Caps verbreitet sind und subventionierte Subscriptions auslaufen könnten, was die Kosten um den Faktor 5–10 steigen ließe.

Auf der Infrastrukturseite verdichten sich die Open-Source-Schritte. Google und Meta haben TorchTPU als natives PyTorch-Backend für Cloud TPUs veröffentlicht, das Eager-Modus, torch.compile und XLA-Kompilierung unterstützt und PyTorch/XLA für neue Workloads ablöst. Entwickler können TPUs damit direkt über natives PyTorch ansprechen, ohne den bisherigen Umweg über PyTorch/XLA – ein relevanters Vereinfachungsschritt für Trainings-Workloads. Auf der Inferenz-Seite liefert EAGLE-4 Speculative Decoding einen 3,59×-Speedup gegenüber Vanilla-Inferenz auf Qwen3.8-27B und übertrifft damit DFlash2 (2,80×) und DSpark (2,57×) deutlich – ohne Qualitätsverlust. Aktuell nur für Qwen3.8-27B verfügbar, wird die Integration in llama.cpp und vLLM beobachtet. Die Stoßrichtung ist klar: Mehr Leistung aus bestehender Hardware herauszuholen, bevor neue Kapazitäten eingekauft werden müssen.

Der Echtzeit-Stack reift ebenfalls sichtbar. ElevenLabs lancierte zwei neue Speech-to-Speech-Modelle der Eleven-Realtime-Familie: Der Max-Variant erreicht 98,8 Prozent auf dem Big Bench Audio Benchmark bei 0,57 Sekunden Antwortzeit; ElevenLabs gibt an, dass kein Modell auf dem Artificial-Analysis-Leaderboard derzeit schneller und genauer ist. Das kleinere v1 Mini ist für natürliche Gespräche zu geringeren Kosten ausgelegt und erkennt auch Zwischenlaute wie „mm-hmm". Beide Modelle laufen über die ElevenAgents-Plattform und eine OpenAI-kompatible Realtime API. Ergänzend dazu ist WebSocket-Support in Vercel Functions nun allgemein verfügbar – seit der Public Beta Ende Juni wurden 300 Millionen WebSocket-Verbindungen über das Vercel CDN bedient, aktuell 15 Millionen täglich. Die Abrechnung erfolgt nur für aktive CPU-Zeit beim Message-Processing, was Voice-AI- und Streaming-Pipelines direkt begünstigt.

Während die Infrastruktur-Schicht günstiger und zugänglicher wird, skaliert Anthropic aggressiv in den Enterprise-Markt: 51 neue Partner-Deals dokumentiert das Anthropic Partner Network, darunter TCS mit 50.000 eigenen Mitarbeitenden in 56 Ländern, Cognizant mit über 30.000 trainierten Associates und KPMG mit 276.000 Mitarbeitenden – fokussiert auf regulierte Branchen wie Finanzwesen, Gesundheit und öffentlicher Sektor. Die Schiere Breite dieser Partnerschaften zeigt, wie Claude als B2B-Plattform positioniert wird – ungeachtet der oben genannten Verlustzahlen. Dass KI-Automatisierung bereits in deutlich kleineren Betrieben greift, illustriert ein OpenAI-Fallbeispiel aus dem Franchise-Gastrogewerbe: Ein Schlotzsky's- und Cinnabon-Franchisee reduzierte die Kassenabgleichzeit um 94 Prozent und die Zeit für Menüpreisanpassungen um 95 Prozent – mit einem ChatGPT-basierten Workflow, der bis zu 100.000 USD Liquidität freisetzen kann.

Abseits des KI-Hypes gibt es heute ein ernstes Sicherheitsproblem zu beachten: Die Kompromittierung der eMudhra Intermediate CA betrifft acht Root-Zertifikate, die in den Mozilla-, Microsoft-, Apple- und Chrome-Root-Programmen verankert sind. Python-Tooling – uv 0.13.4, pip 26.2.2 und certifi 2026.10.19 – wurde bereits mit aktualisierten Zertifikatslisten veröffentlicht. Entwickler und Ops-Teams müssen ca-certificates-Pakete auf allen Linux-Systemen sowie abhängigen Software-Bundles sofort aktualisieren, um Man-in-the-Middle-Angriffe zu verhindern. In einer Woche, in der API-Abhängigkeiten, Infrastrukturkonsolidierung und Enterprise-Skalierung die Agenda prägen, ist das eine Erinnerung daran, dass Sicherheits-Grundlagen nicht der Optimierung geopfert werden dürfen.