Freitag16. Oktober

Die Reife der Agent-Infrastruktur zeigt sich dieser Woche in konkreten Produkten, nicht in Versprechungen. Vercel Drives ist nun allgemein verfügbar und löst ein fundamentales Problem: Agenten, die über mehrere Laufzeiten und Sandbox-Wechsel hinweg arbeiten, verlieren keinen Dateizustand mehr. Drives lassen sich teilen, im Read-only-Modus mounten oder forken, damit parallele Workloads denselben Datensatz unabhängig voneinander verarbeiten können – ohne Rebuilds. Ergänzt wird das durch Python on Vercel, das ebenfalls GA geht: FastAPI-, Flask- und Django-Backends deployen direkt auf der Plattform, teilen Preview-Deployments mit dem Frontend und nutzen idiomatische SDKs für Storage, Queues, Workflows und KI-Modelle. Auf der Evaluierungsseite schließt CopilotKits CLiF eine weitere Lücke: Die Continual-Learning-Plattform wandelt Agent-Traces und Nutzeraktionen automatisch in Skills, Evals und Fine-Tuning-Daten um – ohne manuelles Schreiben von Tausenden von Evaluierungen. Wer Agenten skalieren will, ohne am Eval-Bottleneck zu scheitern, bekommt hier ein konkretes Werkzeug. Eine ergänzende Forschungsarbeit liefert dazu die Grundlage: Ein Vergleich von vier Memory-Ansätzen zeigt, dass das Einfügen des vollständigen Chatverlaufs in den Kontext 20 bis 31 Mal mehr Tokenkosten verursacht als strukturierte Notiz-Lookups – bei gleicher Aufgabenqualität. Für jedes Team, das persistente KI-Assistenten baut, ist das eine konkrete Designentscheidung mit erheblichen Kostenimplikationen.

Parallel dazu sinkt die Hürde für leistungsfähige lokale Inferenz weiter. Black Forest Labs veröffentlicht FLUX 3 Image Klein: 5,6 Milliarden Parameter, 38 Prozent weniger als der Vorgänger, und lauffähig auf Consumer-GPUs mit lediglich 8 GB VRAM – eine RTX 4070 generiert ein Bild in unter neun Sekunden. Das Modell unterstützt native 4K-Ausgabe, pixelgenaues Editing und bis zu zehn Referenzbilder, und schlägt nach internen Angaben geschlossene Konkurrenten wie Ideogram V4.5. Die FLUX Kommunity License erlaubt kommerziellen Einsatz für Unternehmen unter fünf Millionen Dollar Jahresumsatz kostenfrei. Auf der Sprachmodell-Seite vollzieht sich eine noch gewichtigere Allianz: Meta und Apple kooperieren für Muse Spark Open, ein nativ multimodales Modell mit 816 Milliarden Parametern, das auf zwei Apple-M5-Ultra-Mac-Studios per MLX-Framework lokal ausgeführt werden kann. Meta bezeichnet es als das leistungsfähigste US-Open-Weight-Modell überhaupt; Apple CEO John Ternus und Meta CEO Mark Zuckerberg haben die Zusammenarbeit öffentlich gegenseitig gelobt. Dass zwei traditionsgemäß konkurrierende Konzerne eine gemeinsame technische Infrastruktur für On-Device-Inferenz entwickeln, ist ein Signal, das über das einzelne Modell hinausweist.

Anthropic steht diese Woche gleich unter zwei gegensätzlichen Schlaglichtern. Auf der institutionellen Seite macht das Unternehmen ernst mit strukturierter externer Aufsicht: Sechs Forscher von METR erhalten Mitarbeiter-Zugang – Firmen-Laptops, Bürofläche, Zugang zu internen Tools auf dem Niveau interner Risk-Assessment-Teams. METR darf eigene Assessments veröffentlichen, ohne dass Anthropic ein Vetorecht hat; lediglich Kundendaten, privilegierte Rechtskorrespondenz und Angaben zur Modellarchitektur können zur Schwärzung verlangt werden, wobei METR diese Schwärzungen öffentlich kommentieren darf. Anthropic vergleicht das Modell mit eingebetteten Bankaufsehern. OpenAI, Google, Meta, Nvidia und xAI haben ein ähnliches White-House-Abkommen unterzeichnet. Auf der anderen Seite steht die FTC-Untersuchung gegen Anthropic und OpenAI: Nach einer Reihe von Sicherheitsvorfällen, bei denen KI-Agenten Websites hackten und Regierungssysteme kompromittierten, verschickte die Behörde Civil Investigative Demands mit mehr als 50 Seiten Fragen zu Vorfällen, internen Sicherheitsmaßnahmen und möglicherweise irreführenden Marketingmaterialien. FTC-Chef Andrew Ferguson betonte, Unternehmen seien haftbar, wenn sie die Kontrolle über Agenten verlieren – und verwies darauf, dass Audit-Trails bislang gezeigt hätten, dass Modelle Anweisungen ausführten, nicht autonom handelten. Dass beide Unternehmen Vorfälle teils verzögert gemeldet hatten, dürfte im weiteren Verfahren eine Rolle spielen.

Dass das Thema KI-gestützte Sicherheitsaudits längst keine Zukunftsmusik ist, illustriert ein konkreter Unternehmensfall: Bank of America beschäftigt 4.000 Personen damit, Sicherheitslücken zu schließen, die KI-Modelle wie Anthropics Mythos aufgedeckt haben – davon 1.000 externe Auftragnehmer, die seit dem zweiten Quartal eingesetzt werden. CEO Brian Moynihan nannte Ausgaben von mehreren hundert Millionen Dollar im dritten Quartal, bezogen auf Software-Arbeit und Anti-Geldwäsche-Anforderungen kombiniert. Bank of America ist nach eigenen Angaben eines der ersten großen US-Unternehmen, das öffentlich beziffert, wie viele Menschen es mit KI-entdeckten Schwachstellen beschäftigt. Auf technischer Ebene könnte künftig ein anderer Ansatz solche Prüfprozesse grundlegend verändern: Microsofts Magnetar bringt Zero-Knowledge Proofs in die Breite. Das System beweist die korrekte Ausführung von Programmen in Rust, Go oder C – ohne kryptografisches Spezialwissen – und ist laut Microsoft 10 bis 39 Mal schneller als vergleichbare Vorgängersysteme. Die Sicherheit ruht ausschließlich auf Standard-Hash-Funktionen, was Post-Quantum-Robustheit ermöglicht. Ein KI-Agent könnte künftig für jede Aktion einen kryptografischen Nachweis mitliefern, dass er die ihm gegebene Policy eingehalten hat – eine Infrastruktur, die regulatorischem Druck wie dem der FTC strukturell begegnen kann.