Das Hugging Face Inference-Providers-Programm ermöglicht es Entwicklern, Modelle aus dem HF-Hub direkt über externe Compute-Anbieter auszuführen – alles über eine einheitliche API-Schnittstelle. Mit DeepInfra wird das Ökosystem um einen weiteren spezialisierten Inferenz-Anbieter erweitert, der für kostengünstige und skalierbare Ausführung großer Sprachmodelle bekannt ist. DeepInfra betreibt eigene GPU-Infrastruktur und bietet kompetitive Preise vor allem für populäre Open-Source-Modelle wie Llama- und Mistral-Varianten. Durch die Integration in das Inference-Providers-Programm können Nutzer DeepInfra als Backend auswählen, ohne die gewohnte HF-API-Umgebung zu verlassen oder separate API-Keys verwalten zu müssen – die Abrechnung läuft über das bestehende Hugging Face-Konto. Das Programm umfasst bereits mehrere Anbieter, darunter etablierte Namen wie Replicate und Together AI, sodass DeepInfra in direkter Konkurrenz zu diesen innerhalb der HF-Plattform steht. Für Entwickler entsteht dadurch eine einfache Möglichkeit, Kosten und Latenz verschiedener Backends zu vergleichen, ohne Code-Änderungen vornehmen zu müssen.