Donnerstag5. November

Die Verschiebung der Machtverhältnisse im KI-Markt lässt sich nirgendwo deutlicher ablesen als im Token-Traffic: DeepSeek allein verarbeitete 53 % der 27 Billionen täglich auf OpenRouter gerouteten Token, Open-Weight-Modelle insgesamt kommen auf über 75 % Marktanteil. Dass dies kein Ausreißer ist, belegt Nathans Lamberts Analyse der Open-Model-Inferenz-Wirtschaft: Fireworks etwa bedient nach eigenen Angaben bereits mehr als 40 Billionen Token täglich allein im Segment kundenspezifischer Modelle – ein Volumen, das seit dem Sommer um mehr als das Doppelte gewachsen ist. Die öffentlich verfügbaren Zahlen sind zwar lückenhaft, doch die Richtung ist eindeutig: Closed-Model-Anbieter wie OpenAI und Anthropic verlieren im reinen Inferenzvolumen strukturell Terrain an offene Alternativen.

Auf der Hardware-Seite reagiert die Industrie auf genau diesen Nachfragesog. Qualcomms Cloud AI 100 Ultra – eine 150-Watt-Beschleunigerkarte mit 128 GB Speicher und 548 GB/s Speicherbandbreite – zielt als energieeffiziente Alternative auf Inferenz-Workloads im Rechenzentrum. Der vergleichsweise niedrige Energieverbrauch ist dabei kein Nebenmerkmal, sondern das zentrale Verkaufsargument gegenüber etablierten GPU-Architekturen, die bei steigenden Token-Volumina zunehmend unter Kostendruck geraten. Passend dazu vertieft Gemini 4 Argon und Carbon sowie Mistrals Timestral die Spezialisierung auf Modellebene: Argon überführt visuelle Wahrnehmung in mehrstufige Projekte via Subagenten, Carbon erhöht die Zuverlässigkeit über lange Aufgabenketten – exakt die Workloads, für die effiziente Inferenz-Hardware gefragt ist. Timestral wiederum bringt Zero-Shot-Forecasting auf numerische Zeitreihen ohne Fine-Tuning, ein Anwendungsfall wie Lastprognose im Energiesektor.

Im Bereich Coding-Agenten und autonomer Softwareentwicklung verdichten sich die Aktivitäten. Meta übernimmt das erst 2024 gegründete Startup Conductor, das Software-Projekte durch parallele Agenten in getrennten Workspaces entwickelt – und ergänzt damit das im August gestartete eigene Muse Code. Conductor-CEO Charlie Holtz kündigte an, bis Anfang nächsten Jahres etwas Neues für Kunden bereitzustellen; die Cloud-Dienste werden allerdings am 20. November abgeschaltet und alle Nutzerdaten danach gelöscht. Parallel zeigt OpenAIs autonome Sicherheitspipeline, wie weit Agenten in sicherheitskritischen Domänen bereits reichen: 948 lokale Privilege-Escalation-Schwachstellen im Linux-Kernel wurden gefunden, validiert und mit Patches versehen – vollständig autonom. Dass das Potenzial noch nicht ausgeschöpft ist, verdeutlicht CloudOpsBench, ein neues Open-Source-Benchmark für KI-Agenten in Cloud-Operationen: Selbst das beste getestete Modell löste nur 60 % der 45 AWS-Aufgaben; rund 80 % der Fehler gehen laut dem Team der University of Michigan auf mangelndes Reasoning zurück, nicht auf fehlendes Faktenwissen.

Für Builder, die produktive Agenten-Systeme betreiben, liefert Vercels Workflow SDK 5.3.1 eine konkrete Verbesserung: Die neue atomare `start()`-Funktion eliminiert die bisherige Race-Condition zwischen Lookup und Start, indem Workflow-Start und Hook-Claim in einem einzigen Schritt erfolgen. Duplikate werfen einen `HookConflictError` mit der `conflictingRunId` – ohne zusätzlichen Code. Als Idempotency-Key dient ein domäneneigenes Token wie eine Order-ID. Im staatlichen Segment bewegt sich derweil OpenAIs Daybreak Red mit GPT-5.6 Cyber in der AWS GovCloud: Autorisierte US-Behördenkunden können das Modell nun für Cybersicherheitsaufgaben in einer souveränen Cloud-Umgebung über Amazon Bedrock nutzen.

Den politischen Rahmen für all diese Entwicklungen liefert ein nüchternes Signal aus den US-Midterms: KI und Rechenzentrumsausbau rangierten bei den Wählerprioritäten 2026 auf dem letzten Platz – 56 % der Befragten nannten das Thema laut NBC-News-Exitpolls als entscheidend oder wichtig, verglichen mit 90 % für Regierungskorruption und 89 % für Lebenshaltungskosten. Für Lobbyisten und AI-Builder bedeutet das: Wählerdruck als Treiber für KI-Regulierung ist auf absehbare Zeit keine realistische Variable. Die eigentlichen Weichen werden in Rechenzentren, Entwicklerlabors und Marktanteils-Dashboards gestellt – nicht in Wahlkabinen.