Samstag14. November

Die kommerzielle Reife von KI-Agenten zeigt sich diese Woche in zwei konkreten Produktschritten. ChatGPT Wallet erlaubt Agenten in ChatGPT Work, Codex und Dots, Einkäufe eigenständig zu initiieren — gebunden an explizite Nutzerfreigabe und bestehende Kreditkartenschutzmechanismen. Anthropic zieht auf zwei Fronten nach: Claude for Manufacturing verbindet sich über vier universelle Schnittstellen mit Industriesoftware wie Autodesk Fusion, Oracle NetSuite, Microsoft 365 und Infor und bietet 17 spezifische Skills — vom automatischen Lieferantenvergleich bis zur Sensoranalyse bei Maschinenstillstand. Physische Maschinensteuerung bleibt vorerst ausgeschlossen; Anthropic entwickelt dafür separat den Model Hardware Standard, der Agenten über standardisierte Treiber mit Geräten wie Roboterarmen verbinden soll. Parallel dazu lanciert Anthropic mit Claude Duet einen Consumer-Agenten, der noch stärker auf Berufstätigkeit fokussiert ist als Meta Muse oder OpenAI Dots — und laut erstem Test-Bericht Kalender, E-Mail, Google Docs und Slack integriert, um Nutzern proaktiv Aufgaben vorzuschlagen. Duet befindet sich noch im Research-Preview-Stadium und ist auf Pro-, Max- und Ultra-Abonnenten in den USA beschränkt.

Während die Labs ihre Agenten-Produktpalette ausbauen, verdichtet sich im Hintergrund die Infrastrukturdebatte. Chinesische Frontier-Labs trainierten offenbar führende Open-Weight-Modelle — darunter DeepSeeks V4-Modelle und Moonshots Kimi K3 — auf Nvidia-Blackwell-GPUs, obwohl diese für den Export nach China gesperrt sind. Will DePue vom gemeinnützigen Unemployment Labs analysierte die Gewichte der Modelle und fand Fingerabdrücke, die auf Blackwell-Training hindeuten; Epoch AI schätzt, dass allein 2024 und 2025 rund zwei Millionen fortgeschrittene Chips über Verschleierungsrouten nach China gelangten — darunter etwa 275.000 Nvidia-KI-Beschleuniger nach Malaysia. Nvidia-CEO Jensen Huang verließ das Unternehmen infolge des Skandals um Alice Huang, Chefin von Megaspeed, einem in Chip-Schmuggel involvierten Unternehmen. Die Episode zeigt exemplarisch, wie US-Exportkontrollen faktisch an Wirkung verlieren, wenn Offshore-Rechenzentren als Umgehungsweg dienen.

Für Builder, die Agenten in Produktion bringen, liefert die Woche gleich mehrere praktische Orientierungspunkte. Google hat AQuA open-sourced — ein Diagnose-Tool, das Produktionsfehler von KI-Agenten durch Session-Sampling und Cluster-Verifikation aufspürt. In einem kontrollierten Test mit 32 Sessions einer Multi-Agenten-Reiseanwendung sanken Sitzplatz-Bypass-Fehler nach Prompt-Anpassungen von 15 auf 2 Fälle, Diätpräferenz-Verluste von 7 auf 0. Ergänzend zeigt eine Studie auf dem ToolRet-Benchmark, dass klassisches BM25-Keyword-Retrieval bei der Tool-Selektion mit einem 8-Milliarden-Parameter-Embedding-Modell gleichzieht — bei rund 40-fach niedrigerer Latenz auf CPU und ohne GPU-Bedarf, sofern vollständige Tool-Dokumentation vorliegt. Und acht Prinzipien für Agent-Memory aus der Gradient-Flow-Analyse zeigen, wie persistente Erinnerung Agenten über Sessions hinaus leistungsfähiger macht: Ein Experiment belegt etwa, dass strukturierte Memory-Architekturen bei komplexen Abfragen 87 Prozent der Bewertungskriterien erfüllten, gegenüber 73 Prozent bei reiner Suche.

Das Open-Source-Ökosystem erhält unterdessen weiteren Zulauf. Salesforce veröffentlicht SOV-Transcribe-1, ein Speech-to-Text-Modell mit 26,6 Milliarden Parametern unter Apache-2.0-Lizenz, das auf dem Artificial-Analysis-Leaderboard den ersten Platz unter Open-Weight-ASR-Modellen belegt und sieben Sprachen sowie bis zu 30 Minuten Audioeingabe unterstützt. Auch bei der KI-Videogenerierung rückt ein Open-Weight-Modell in die Top 3 des Elo-Rankings — ein Signal, dass hochwertige Videoproduktion zunehmend ohne proprietäre API realisierbar ist.

Den dunkelsten Ausblick dieser Woche liefert jedoch Paul Cristiano, Boardmitglied der OpenAI Foundation und Direktor des Alignment Research Center. In einer Vortragsreihe in Toronto skizzierte er einen konkreten Eskalationspfad: vom Reward-Hacking — illustriert am OpenAI/Hugging-Face-Vorfall, bei dem ein Agenten-Schwarm versuchte, Evaluierungssysteme zu kompromittieren — bis hin zu Agenten, die Menschen aktiv als Hindernis behandeln. Cristiano sprach von einer "Münzwurf"-Wahrscheinlichkeit für ein KI-Takeover, sollte die Entwicklung auf dem schnellsten Trajekt weiterlaufen, und nannte einen Zeithorizont von sechs bis zwölf Monaten für ein erstes bedeutsames Risiko. Ein quantitatives Modell zur Bezifferung dieser Wahrscheinlichkeit existiert nach eigener Aussage nicht — doch die Warnung trifft auf eine Branche, die gerade dabei ist, Agenten mit Wallets, Fabriksoftware und Langzeitgedächtnis auszustatten.