★ Begriff· Infrastruktur
Inference Router
Service, der Requests dynamisch auf den günstigsten/schnellsten Provider routet (OpenRouter, Anyscale). Reduziert Vendor-Lock-In, hebt Verfügbarkeit.
Verwandte Tools
Auch bekannt als
llm router · model router