Mittwoch29. Juli

Die sicherheitspolitische Dimension von KI verdichtet sich an diesem Montag auf ungewöhnliche Weise. Claude Mythos, Anthropics neuestes Modell, hat in einem semi-autonomen Multi-Agenten-System in nur 60 Stunden eine bislang unentdeckte Schwachstelle im Post-Quanten-Signaturverfahren HAWK gefunden — einen Algorithmus, den menschliche Kryptografen zuvor über zwei Jahre geprüft hatten. Die API-Kosten beliefen sich auf jeweils rund 100.000 Dollar pro Angriff. Daneben entwickelte Mythos die sogenannte „Möbius Bridge"-Methode, die Angriffe auf eine reduzierte Version von AES-128 um den Faktor 200 bis 800 gegenüber dem bisherigen Stand der Technik verbessert. Anthropic betont, dass weder der HAWK- noch der AES-Befund Systeme im laufenden Einsatz betreffen — doch das Signal ist eindeutig: KI verschiebt die Grenze dessen, was in der Kryptanalyse als machbar gilt, schneller als institutionelle Überprüfungsprozesse Schritt halten können. Kein Zufall also, dass über 1.100 Mitarbeitende von OpenAI, Anthropic, Google, Meta, Mistral und anderen Labs in einer gemeinsamen Erklärung die US-Regierung auffordern, internationale Koordinationsmechanismen zu schaffen — explizit mit Blick auf das Risiko, dass KI-Forschung bald selbst von KI automatisiert wird und Fähigkeitszuwächse unkontrollierbar beschleunigt werden könnten.

Die Industrie antwortet auf diese Bedrohungslage mit Kapital. Cyera, zuletzt mit 12 Milliarden Dollar bewertet, übernimmt den auf Non-Human-Identities spezialisierten Anbieter Oasis Security für rund eine Milliarde Dollar — überwiegend in bar. Oasis wurde 2022 gegründet, hat rund 195 Millionen Dollar eingesammelt und fokussiert sich auf die Absicherung von KI-Agenten, die in Unternehmensumgebungen auf andere Software zugreifen. Post-Akquisition soll die Technologie in eine einheitliche Identity- und Data-Security-Plattform integriert werden. Dass solche Investitionen dringend sind, illustriert ein aktueller Vorfall, den Modal-CTO Akshat Bubna öffentlich kommentierte: Ein Modal-Kunde hatte einen unauthentifizierten Endpoint veröffentlicht, der es beliebigen Akteuren im Internet — einschließlich eines „rogue agent" — ermöglichte, dessen Sandboxes für Code-Ausführung zu missbrauchen. Bubna stellte klar, dass weder Modals Plattform noch deren Isolation kompromittiert wurden, sondern eine unsichere Kundenkonfiguration das Einfallstor war. Die Botschaft für AI-Builder: Plattformsicherheit und Konfigurationsdisziplin sind nicht dasselbe.

Auf der Tooling-Seite baut OpenAI derweil konsequent aus. Codex Security ist ab sofort als CLI und TypeScript SDK verfügbar und lässt sich per `npm install` in bestehende CI-Pipelines integrieren — Authentifizierung über `OPENAI_API_KEY`, ohne manuellen Login-Schritt. Parallel dazu wächst das breitere Codex-Ökosystem rasant: ChatGPT Work und Codex erreichten gemeinsam in weniger als zwei Wochen nach dem Launch am 9. Juli zehn Millionen Nutzer. Entscheidend ist dabei der demografische Befund: Wissensarbeiter machen bereits 20 Prozent der Nutzerbasis aus und wachsen dreimal schneller als Entwickler. Codex fungiert damit als gemeinsames Agenten-Harness, das klassische Dokument-, Tabellen- und Präsentations-Workflows absorbiert. Wie dieser Übergang intern bei einem der führenden Labs aussieht, beschreibt ein detaillierter Einblick in Anthropics Softwareentwicklungsprozesse: Verifikation und Review werden zum Engpass statt Implementierung, Teams arbeiten mit maximal zwei Ingenieuren pro Projekt, und Codebase-Migrationen im Umfang von über 500.000 Zeilen sind in elf Tagen statt einem Jahr realisierbar — dokumentiert am Beispiel der Bun-zu-Rust-Migration für rund 165.000 Dollar in Token-Kosten.

Die Infrastrukturschicht reagiert ihrerseits auf den Kostendruck, den skalierte KI-Deployments erzeugen. LiquidAI veröffentlichte seine LFM2.5-Encoder, die auf schnelle Long-Context-Inferenz auf der CPU ausgelegt sind — ohne GPU-Bedarf. Das adressiert direkt Retrieval- und Embedding-Pipelines in ressourcenbeschränkten Umgebungen und senkt strukturell die Infrastrukturkosten. Eine komplementäre strategische Perspektive liefert ein Beitrag von Gradient Flow: Der schrumpfende Leistungsabstand zwischen Open-Weight- und proprietären Modellen verschiebt den entscheidenden Wettbewerbsvorteil hin zu proprietären Daten. Spezialisierte Modelle, die ausschließlich auf unternehmenseigenen Daten trainiert werden, übertrafen in beschriebenen Fällen generische Ansätze um 10 bis 30 Prozentpunkte auf klar definierten Aufgaben — und waren günstiger im Betrieb als klassische statistische Pipelines.

In diesen Kontext stellt sich ein grundsätzlich kritischer Meinungsbeitrag, der die gesellschaftliche Gesamtbilanz von Generative AI in Frage stellt: Die Milliarden-Investitionen hätten bislang kein allgemein zugängliches wirtschaftliches Mehrwertversprechen eingelöst, das Internet sei durch KI-generierte Inhalte demoralisiert, und die sozialen Kosten des aktuellen Investitionszyklus würden zunehmend sichtbar. Die These steht im Spannungsfeld zu den Capability-Sprüngen, die Claude Mythos in der Kryptanalyse demonstriert — und verdeutlicht, dass die Frage nach Verteilung und gesellschaftlichem Nutzen von KI-Fortschritten parallel zur technischen Debatte geführt werden muss, nicht nach ihr.