Cohere — April 2026
2 Beiträge im April 2026.
- LAUNCH30. Apr.Shepherd Model Gateway: CPU-Workloads per Rust vom GPU-Pfad entkoppelnWer SGLang oder vLLM unter hoher Last betreibt, kann durch GIL-bedingte CPU-Bottlenecks GPU-Kapazität verschwenden. SMG entkoppelt alle CPU-Aufgaben in einen eigenständigen Rust-Dienst, der unabhängig skaliert und ohne Python-Overhead auskommt — relevant vor allem bei Prefill-Decode-Disaggregation und großem Expert-Parallelismus.
- LAUNCH25. Apr.Cohere übernimmt Aleph Alpha – Schwarz Group als Rückhalt für souveräne KIEuropäische Enterprise-Kunden erhalten potenziell eine regulatorisch abgesicherte, nicht-amerikanische KI-Infrastruktur. Für AI-Builder in der EU könnte das neue Anbieter-Optionen mit Datensouveränität bedeuten – besonders relevant unter DSGVO und dem EU AI Act.