Vercel erweitert sein AI Gateway um eine explizite Sortierfunktion für Provider-Routing. Bisher wurden Provider nach einem internen Mix aus Zuverlässigkeit, Ausgabequalität, Kosten und Geschwindigkeit gereiht. Mit dem neuen `sort`-Parameter in `providerOptions.gateway` können Entwickler eines der drei Kriterien priorisieren: `cost` (niedrigster Input-Preis pro Million Tokens zuerst), `ttft` (niedrigste mediane Time to First Token) oder `tps` (höchster medianer Tokens-per-Second-Durchsatz). Das Ranking wird per Request zur Laufzeit berechnet – neu hinzugekommene Provider, Preisanpassungen und beobachtete Latenzschwankungen fließen automatisch ein. Als Beispiel nennt Vercel das Modell GPT OSS 120B, für das über fünf Provider mit unterschiedlichen Preisen verfügbar sind. `sort` ist kompatibel mit anderen Routing-Optionen wie Zero Data Retention (ZDR) und dem `order`-Parameter: Manuell priorisierte Provider werden vorangestellt, danach greift das gewählte Sortierkriterium. Jede Response enthält zudem einen `sort`-Block in den Routing-Metadaten, der transparent zeigt, welche Provider berücksichtigt wurden, welche Metrikwerte zur Rangbildung genutzt wurden und welche Provider wegen Degradation zurückgestellt wurden.