Foundation-Modelle · MoE-Architektur und Open-Weights-Druck verdrängen proprietäre Monolithen

Aktueller Stand

Das Feld der Foundation-Modelle wird derzeit von zwei gegenläufigen Kräften geprägt: dem Kostendruck durch Mixture-of-Experts-Architekturen einerseits und dem wachsenden Gewicht chinesischer Open-Weights-Releases andererseits. DeepSeek und Tencent setzen mit MoE-Modellen im 280–295B-Bereich Benchmarks bei Inferenzeffizienz, während Qwen und Gemma die Community-Adoption dominieren – auf Consumer-Hardware bis hin zur einzelnen RTX 3090 oder dem MacBook Air.

Die US-Frontier-Labs OpenAI und Anthropic halten die Qualitätsspitze, geraten aber unter Druck: Claude fehlt eine europäische Datenzone auf Microsoft Foundry, OpenAIs GPT-5.5-Codex zeigt unbestätigte Reasoning-Token-Limits. Mistral positioniert sich als europäische Sovereign-Alternative, agiert dabei aber zunehmend nach Mustern, die Kritiker mit Palantirs Staatsvertragsstrategie vergleichen. Offene Fragen zu Transparenz – von Anthropics Systemprompt-Handhabung bis zu undokumentierten OpenAI-Schwellenwerten – belasten das Vertrauen in proprietäre Anbieter.

Wichtigste Updates

Tencents Hy3 markiert den bislang grössten Open-Weights-Release des Berichtszeitraums: Das 295B-MoE-Modell mit nur 21B aktiven Parametern erscheint unter Apache-2.0-Lizenz und ist damit ohne geografische Einschränkungen kommerziell einsetzbar. Das Design folgt dem mittlerweile etablierten MoE-Muster, das auch DeepSeek V4 Flash prägt – bei dem laut Community-Analyse ebenfalls nur ein Bruchteil der 284B Parameter pro Token aktiv ist, was die Inferenzkosten trotz hoher Gesamtparameterzahl drastisch senkt. Für Anbieter und Betreiber bedeutet dies: Gesamtparameterzahl ist als Proxy für Betriebskosten weitgehend irrelevant geworden.

Auf der Deployment-Seite gibt es konkrete Fortschritte bei der Consumer-Hardware-Performance. Ein Patch für DeepSeek V4 Flash auf Apple Silicon bringt 1,6× schnelleres Prefill und 3× schnelleres Decoding durch native Metal-Kernel statt generischer Pfade – ohne Modelltausch. Parallel dazu zeigt ein Benchmark von Qwen3.6 27B auf der RTX 5090 durchschnittlich 140 Token/s mit llama.cpp-Tuning, wobei MTP-spekulative Dekodierung und q8-KV-Cache als entscheidende Stellschrauben identifiziert werden.

Anthropics Claude auf Microsoft Azure Foundry erreicht General Availability – aber ohne europäische Datenzone. Für Unternehmen in der EU mit Datenresidenzpflichten bleibt der Foundry-Kanal damit vorerst gesperrt; Anthropic verweist auf Bedrock und Vertex AI als Alternativen. Dieser Schritt illustriert eine strukturelle Spannung: Frontier-Modelle expandieren aggressiv in Enterprise-Kanäle, ohne regulatorische Anforderungen in Europa vollständig abzudecken.

Mistral-CEO Arthur Mensch warnt unterdessen öffentlich davor, Geschäftsprozessdaten an proprietäre Frontier-Anbieter zu übergeben – und kündigt für Juli 2026 ein neues Open-Weight-Modell mit Early Access an. Das angekündigte Modell via Mistrals Forge-Plattform wird als Sovereign-AI-Alternative positioniert, wobei Beobachter auf Ähnlichkeiten zu Palantirs Regierungsvertrags-Strategie hinweisen.

Was zu erwarten

Mistrals angekündigtes Open-Weight-Modell soll laut Post-Hinweisen ab Juli 2026 über Early Access verfügbar werden – ein konkreter Release-Zeitpunkt oder Parameterzahl wurden nicht kommuniziert. In der Qwen-Familie fragt die Community nach einem Qwen 3.7 9B als Open-Weights-Release; ein offizieller Roadmap-Hinweis fehlt bislang, und es bleibt unklar, ob ein solches Modell überhaupt erscheint. Für OpenAIs Codex-Umgebung kursiert ein nicht bestätigter Hinweis auf GPT-5.6 Sol Ultra; Zeitplan und Umfang sind ohne Primärquelle nicht beurteilbar. Auf der Infrastrukturseite bestehen noch Lücken beim SWA-Cache-Handling in llama.cpp, die laut Community-Benchmark weiterer Patches bedürfen. Ob Tencents Hy3 auf internationalen Benchmarks mit etablierten Modellen mithalten kann, steht noch aus.