Freitag2. Oktober

Die Woche beginnt mit einem klaren Signal aus dem Finanzsektor: Barclays skaliert Claude auf 16.000 Mitarbeitende und verarbeitet täglich rund 120.000 E-Mails über KI-gestützte Klassifizierung — ein Maßstab, der zeigt, wie weit generative KI in regulierten Unternehmensumgebungen bereits vorgedrungen ist. Der RAG-basierte Colleague Knowledge Assistant der Bank ist seit 2025 im Produktionsbetrieb und hat über eine Million Suchanfragen bearbeitet. Bis Ende 2026 sollen 50 Prozent der Barclays-Entwickler Claude Code nutzen, bis 2027 soll es die Mehrheit der Softwareingenieure sein. Damit wird Barclays zum Referenzfall für das, was Enterprise-KI-Rollouts in der Praxis bedeuten: nicht Pilotprojekte, sondern operative Kernsysteme mit fünfstelligen Nutzerzahlen.

Wer solche Systeme betreibt, braucht effiziente Inferenz — und auf dieser Ebene verdichten sich die Nachrichten aus der Infrastrukturschicht. Metas TLX-Kernel für Jagged Flash Attention übertrifft FlashAttention-4 auf NVIDIA Blackwell B200 um rund 13 Prozent im Forward-Pass und 50 Prozent im Backward-Pass — bei rund 3.200 Zeilen Triton-Code gegenüber den etwa 10.000 Zeilen der CuteDSL-Alternative. Der Kern des Fortschritts: Padding-Verschwendung von bis zu 50 Prozent bei variablen Sequenzlängen entfällt durch das direkte Arbeiten mit gepackten Tensoren. Ergänzend dazu veröffentlicht Ai2 mit Olmo-core 3 eine Open-Source-Trainingsinfrastruktur, die durch den Wechsel von FSDP zu DDP den Trainingsdurchsatz auf acht NVIDIA B300 GPUs von 19.400 auf 52.000 Tokens pro Sekunde pro GPU steigert — ein Faktor von 2,7. MXFP8-Unterstützung bringt zusätzlich 21 Prozent mehr Durchsatz. Gleichzeitig demonstriert die Slipstream Engine, dass Effizienzgewinne nicht auf Rechenzentren beschränkt bleiben: Das 95,5-GiB-Modell Qwen3.8-Flash-Next läuft auf einem 64-GB-Mac mit 41–52 tok/s — 1,76-mal schneller als llama.cpp — und hebt Tool-Calling-Decode durch asynchrones SSD-Expert-Streaming von 5,6 auf über 45 tok/s. Inferenzkosten sinken damit an beiden Enden des Spektrums: im Hyperscaler-Cluster und auf dem lokalen Entwickler-Rechner.

Während die Infrastruktur reift, wächst die Autonomie der darüber laufenden Agenten — und damit verändert sich das Bild des Menschen als Kontrollinstanz. Ethan Mollick beschreibt in seinem Essay einen Paradigmenwechsel, den er selbst zunächst unterschätzt hatte: KI-Agenten-Schwärme organisieren sich selbst, ohne dass Menschen die Aufgabenverteilung vorab strukturieren müssen. Als Beleg dient unter anderem die selbstständige Lösung von Navier-Stokes-Aufgaben durch solche Schwärme. Persönliche Agenten wie Meta Muse und OpenAIs dots agieren dabei bereits proaktiv — sie finden Fehler in Nutzer-E-Mails oder handeln Kreditverlängerungen mit Airlines aus, bevor der Nutzer eingreift. Theoretisch untermauert wird diese Entwicklung durch den Latent-Space-Podcast mit MIT-PhD Alex Zhang: Zhang beschreibt Recursive Language Models als nächste Paradigmenstufe — Modelle, die ihre eigenen Prompts als externe Objekte behandeln, rekursive Subagenten aufrufen und gemeinsamen Speicher nutzen. Das RLM-basierte Prime Agent löste ARC-AGI-3 als erstes System vor OpenAIs Astra — ein Hinweis auf einen erheblichen Capability-Overhang in bestehenden Frontier-Modellen.

Doch steigende Autonomie erzeugt neue Angriffsflächen. Kryptograph Matthew Green, zitiert von Simon Willison, beschreibt die strukturelle Schwachstelle: Persönliche KI-Agenten, die auf gemeinsame Kommunikationskanäle wie E-Mail, Slack oder WhatsApp zugreifen, bilden genau die Zwei-Komponenten-Struktur, die ein sich selbst verbreitender promptbasierter Wurm benötigt — ein Payload, der den Agenten kapert, und ein Agent, der diesen Payload weiterträgt. Sandboxing allein reiche als Schutzmaßnahme nicht aus. Parallel dazu warnt Tavus' Griffin-Studie vor einer anderen Dimension der Autonomie: 48 Prozent der Testpersonen hielten den KI-Videoavatar nach einem einminütigen Videoanruf für einen echten Menschen — gegenüber zwei Prozent bei früheren Systemen. Der Bedarf an Offenlegungspflichten und Erkennungsmechanismen wächst entsprechend.

Vor diesem Hintergrund gewinnt die methodische Grundsatzdebatte über KI-Risiken an Schärfe. Arvind Narayanan und Sayash Kapoor argumentieren, dass X-Risiko-Warnungen aufrichtig und trotzdem falsch sein können — und dass die eigentliche Unterinvestition bei belegbaren systemischen Risiken wie Cybersecurity und Biorisiko liegt, nicht bei spekulativen Superintelligenzszenarios. Und auf der Plattformebene illustriert der Firebase-Globalausfall ein weiteres Strukturproblem: Tiefe SDK-Abhängigkeiten ohne transparentes Incident-Management — Google aktualisierte die Statusseite während des zwei- bis sechsstündigen Ausfalls nicht — stellen ein Risiko dar, das durch den gleichzeitigen Trend zu Open-Weight-Modellen flankiert wird: Laut Vercels KI-Gateway fließen bereits 60 Prozent der Modell-Ausgaben in Open-Weight-Modelle, auch bei OpenRouter überwiegen Open Models. Der Zug Richtung Dezentralisierung und weniger Plattformabhängigkeit hat Fahrt aufgenommen — auf der Modell- wie auf der Infrastrukturebene.