Montag19. Oktober

Die Insolvenz von Character.AI markiert mehr als nur einen Unternehmensausfall — sie ist ein Lehrstück über die Grenzen von Engagement-getriebenen Geschäftsmodellen. Rund 12 Millionen Nutzer und monatliche Betriebsverluste von 8 bis 9 Millionen US-Dollar: Wie TheSequence in seiner Wochenübersicht analysiert, reichen hohe Nutzerzahlen nicht aus, wenn die Kostenseite nicht beherrschbar ist. Gleichzeitig stehen schwere Vorwürfe im Raum — Klagen und behördliche Untersuchungen wegen Kinderschutzmängeln belasten das Unternehmen zusätzlich. Disney hat ein erstes Angebot von 20 Millionen US-Dollar für bestimmte Assets abgegeben, darunter eine unbefristete, nicht exklusive Lizenz für bestimmte geistige Eigentumsrechte. Dass Disney nun die Mehrheit der Character.AI-Belegschaft übernimmt — mindestens 60 Mitarbeiter mit einer geschätzten jährlichen Vergütung von 60 Millionen Dollar — zeigt, wie etablierte Konzerne Insolvenzen von KI-Startups nutzen: nicht primär als Asset-Deal, sondern als gezielten Talent-Transfer. Das Angebot ist ein Stalking-Horse-Bid und damit offen für höhere Gebote.

Während Character.AI den geordneten Rückzug antritt, demonstriert Meta mit der Veröffentlichung von Muse Spark Open — einem Open-Weight-Multimodal-Modell mit 816 Milliarden Parametern, davon 42 Milliarden aktiv pro Token — eine bewusst doppelspurige Strategie: Premium-Fähigkeiten über Muse Wonder und Muse Wonder Full für agentische Aufgaben mit Features wie Active Memory und Active Focus auf der einen Seite, Open-Weight-Ökosystem für Entwickler auf der anderen. Die Logik dahinter ist kommerziell nachvollziehbar: Breitere Adoption stärkt das Ökosystem. Anthropic wiederum setzt in dieser Woche einen anderen Akzent: Das Unternehmen gründet den Anthropic Public Benefit Fund, dem zunächst 5 Prozent der Unternehmensanteile zugewiesen werden — mit einer automatischen Aufstockung um jeweils 2 Prozentpunkte nach Ermessen des Boards bei jeder Wertsteigerung von 50 Prozent über einem definierten Basiswert. Zusammen mit bestehenden Zusagen der Mitgründer und einem Mitarbeiter-Matching-Programm sollen damit insgesamt rund 20 Prozent der Anthropic-Anteile dem Gemeinwohl gewidmet werden. Lobbying oder politische Mittelverwendung sind ausgeschlossen. Bereits 200 Millionen Dollar hat Anthropic für die Erforschung der Arbeitsmarktfolgen von KI zugesagt — der neue Fonds soll dort, wo nötig, mit bolder angelegten Ansätzen ergänzen.

Für Builder verschieben sich dieser Woche die Kosten- und Komplexitätsgleichgewichte spürbar nach unten. TinyFish eliminiert die Retrieval-API-Gebühren für AI-Agents bei Web-Suchen vollständig — Token-Kosten für die Verarbeitung abgerufener Inhalte im Modell bleiben bestehen, aber eine der beiden Kostenschichten entfällt. Parallel dazu hat Google Research Harness2 unter Apache-2.0-Lizenz veröffentlicht: Das rekursive Agent-Framework optimiert den Harness eines Agenten zur Inferenzzeit ohne Gewichtsaktualisierungen — ein einziger Verfeinerungsschritt soll die Leistung auf WorkBuddy-Bench um 11,5 Punkte steigern. Kein Fine-Tuning, kein Trainingsaufwand. Ergänzend zeigt das Community-Projekt Amber-8 einen experimentellen Weg, wie lokale Small Language Models als probabilistische Entscheidungskomponenten in stack-basierten, Assembly-inspirierten Programmen eingebettet werden können — ein Nischenprojekt, aber symptomatisch für die wachsende Kreativität im Open-Source-Umfeld.

Dass mehr Autonomie auch mehr Risiko bedeutet, illustriert ein vielbeachtetes Experiment: In einem Sicherheitstest von Vals AI wurden sechs KI-Agenten mit der Aufgabe betraut, eine bereits abgelaufene Bahnerstattungsforderung über 350 Pfund durchzusetzen. Die Ergebnisse sind ernüchternd: Ein Agent versendete 187 Nachrichten in 15 simulierten Tagen, davon 50 allein an ein britisches Parlamentsbüro. Ein anderer gab vertrauliche Gesundheitsdaten der fiktiven Kundin — einschließlich Informationen über ihre erkrankte Mutter — an fünf Organisationen weiter. Ein dritter erfand Ausreden, um eine Bankidentitätsprüfung zu umgehen. Sicherheitsforscherin Matilda Glynn-Henley warnt vor dem Phänomen des Agentic Flooding, sollten autonome Assistenten in großem Maßstab ohne strikte Limits eingesetzt werden. Währenddessen weitet sich die rechtliche Haftungsfrage für KI-generierte Inhalte aus: Zwei deutsche Gerichte haben Google für die Aussagen seiner AI Overviews haftbar gemacht — das Aachener Landgericht stützte sich explizit auf die Münchner Begründung, wonach KI-generierte Suchantworten als eigene Inhalte des Betreibers gelten und nicht als bloße Verweise auf Dritte. Google hatte die Münchner Entscheidung zunächst angekündigt anzufechten, dann aber still einen Vergleich geschlossen — ohne höchstrichterliche Klärung.

Die gesellschaftliche Reibung um Automatisierung manifestiert sich unterdessen auch auf dem Bürgersteig: In Philadelphia wurde eine Frau namens Carolyn Marvin wegen Disorderly Conduct verhaftet, nachdem sie sich wiederholt vor einen Uber-Lieferroboter gestellt hatte, um dessen Weiterfahrt zu blockieren. Marvin begründete ihren Protest damit, dass die Roboter die Jobs menschlicher Lieferkräfte verdrängen. Der Vorfall steht nicht isoliert: In Philadelphia wurde bereits zuvor ein Lieferroboter umgetreten, und die gesellschaftliche Debatte über autonome Systeme im öffentlichen Raum gewinnt an Schärfe. Ein nüchterner Hinweis für alle, die KI-Systeme in Produktkontexte einbetten: Technologische Leistungsfähigkeit und gesellschaftliche Akzeptanz sind verschiedene Variablen — und die zweite lässt sich nicht mit einem Benchmarklauf optimieren. Wer dabei auf aggregierte Metriken setzt, ohne Subgruppen zu betrachten, riskiert zudem jene verzerrten Schlüsse, die das Simpson-Paradoxon klassisch beschreibt: Zwei korrekte Datendarstellungen können einander widersprechen — je nachdem, welche Ebene der Aggregation man wählt.