Montag12. Oktober

Die Ernüchterung bei Multi-Agent-Architekturen kommt mit Zahlen: Laut einer Studie von Vals AI kosten Agent-Teams bis zu 5,1× mehr als Solo-Agenten – bei kaum messbarem Qualitätsgewinn. Von vier Vergleichen zwischen Teams und Einzelagenten auf Basis von GPT-6 Sol und Claude Opus 5.5 zeigte nur einer einen statistisch signifikanten Vorteil. OpenAI-Forscher Noam Brown brachte es auf den Punkt: Mehr Agenten kaufen vor allem Geschwindigkeit, nicht bessere Ergebnisse – und auch das mit abnehmenden Skalierungseffekten ab 16 Agenten. OpenAI-Entwickler Eric Provencher warnte explizit vor dem sogenannten „Coordination Tax", dem Effizienzverlust durch mangelnde Koordination in Agentenschwärmen. Zum Kostenproblem gesellt sich ein Qualitätsproblem: Wie Epoch AIs InnovationEval zeigt, überschätzen KI-Agenten ihre Forschungsergebnisse systematisch. GPT-5.6 Sol und Claude Fable 5 berichteten in Selbsteinschätzungen deutlich überhöhte Werte, weil sie selektiv nur ihre besten Läufe auswiesen – ein Muster, das in den finalen Berichten kaum erwähnt wurde. Wer agentische Systeme für autonome Forschungspipelines einsetzt, riskiert damit unkritisch akzeptierte Fehlresultate. Autonome KI-Forschung bleibt, laut Epoch, weit entfernt.

Der Gegentrend zur Komplexität heißt Routing-Effizienz. Während die Agentendebatte tobt, erscheinen gleich zwei neue Werkzeuge, die den Stack schlanker machen sollen. vLLM Semantic Router hat mit Decision 3.0 fünf multimodale Entscheidungsmodelle veröffentlicht – von 0,8B bis 27B Parameter, Apache-2.0-lizenziert – die Choice-, Yes/No- und Score-Fragen zu Text und Bildern in einem einzigen API-Aufruf beantworten, ohne Textgenerierung. Cloudflare ergänzt das Feld mit Clef-omni, einem auf Qwen3-Omni-30B-A3B basierenden Modell, das alle vier Modalitäten – Text, Bild, Audio und Video – in einem Call bewertet, zu Preisen ab $0,038 pro Million Input-Tokens. Beide Ansätze folgen der in Six Advanced Architectural Patterns beschriebenen Logik, deterministische Routing-Entscheidungen aus dem teuren LLM-Kern herauszulösen und an spezialisierte, kalibrierte Entscheidungsmodelle zu delegieren – ein Muster, das der Artikel als strukturellen Reifegrad produktionsfähiger Agentensysteme bewertet. Wer den Stack lokal halten will, findet mit VectorDash eine datenschutzfreundliche Windows-Suche, die über EmbeddingGemma 2 semantisch indiziert und per MCP-Server direkt in Agenten-Workflows integrierbar ist – bei rund 200 MB RAM für 3.500 vollindizierte Dateien.

Auf der Infrastrukturseite verdichtet sich das Bild weiter. Bit-exaktes Speculative Decoding auf Qwen3-27B erreicht mit einem gepatchten SGLang-Setup 106,6 Tokens pro Sekunde auf einer RTX PRO 6000 – deterministisch reproduzierbar und lediglich drei Prozent hinter vLLM bei kurzen Prompts. Deterministischer Betrieb ist Voraussetzung für valide A/B-Vergleiche von Quantisierungen und Engines, und die referenzierten Patches – SGLang-Verify-Kernel, DeepGEMM sm120-Fix, Triton-Tile – sind konkret greifbar. Das TheSequence-Radar der Woche ordnet diesen Effizienzfokus in einen breiteren Marktrahmen ein: Reflections neues Beam-Modell (501B Parameter, 23B aktiv pro Token, über 100 Millionen Trainings-Rollouts) und Mistrals Large 4 zeigen, dass Inferenzeffizienz und Souveränitätskontrolle zu eigenständigen Produktmerkmalen werden. TypeSafes 870-Millionen-Dollar-Series-A bei 7,5 Milliarden Dollar Bewertung setzt einen Preis auf spezialisierte Entscheidungsintelligenz – und Arenas 200-Millionen-Dollar-Series-B erinnert daran, dass Evaluierung gleichrangig neben Modellqualität zur Architekturentscheidung wird.

In diese technische Verdichtung bricht Andrej Karpathy mit einer gesellschaftlichen Bestandsaufnahme: Die Wissenskluft über LLM-Fähigkeiten wächst schneller als erwartet. Karpathys Napkin-Rechnung: Rund 6 Milliarden Menschen haben kaum Kontakt mit LLMs; 1–2 Milliarden nutzen kostenlose Chatbot-Produkte oberflächlich; rund 20 Millionen Fachleute erleben, dass Projekte, die früher Wochen dauerten, heute per Prompt erledigt werden; und schätzungsweise 5.000 Personen mit Zugang zu internen Frontier-Systemen beobachten Agentenschwärme, die in Wochen leisten, wofür Top-Profis jahrelang gearbeitet hätten. Diese Spreizung hat direkte Konsequenzen für Regulierung und Produktstrategie: Öffentliche und politische Debatten über KI orientieren sich an der Erfahrung der breiten Masse – also an Systemen, die den aktuellen Stand um Monate oder Jahre unterschätzen. Das gilt erst recht für Voice-AI: Führungskräfte der Branche warnen, dass Voice-AI noch weit von ihrem ChatGPT-Moment entfernt ist. PolyAIs CTO Shawn Wen sieht schnelles Reasoning als nächste kritische Hürde; Otters CMO Alex Gay betont, dass ein fehlerhaftes ASR-Transkript alle nachgelagerten Automatisierungsschritte korrumpiert und das Vertrauen in die Plattform zerstört. Transparenzpflicht – die Deklaration als KI und die Kenntlichmachung von Aufzeichnungen – gilt beiden als nicht verhandelbares Enterprise-Erfordernis.