
ZML lanciert kostenlosen LLM-Inferenzserver für diverse AI-Chips
ZML/LLMD ist der zweite öffentliche Vorstoß des Pariser Startups: Bereits 2024 hatte ZML ein inferenzfokussiertes ML-Framework veröffentlicht und dieses im März aktualisiert – jenes erste Projekt war Open Source, ZML/LLMD hingegen nicht. Der neue LLM-Inferenzserver startet als kostenloses Produkt, um zunächst Nutzungsdaten zu sammeln; wann und in welcher Form ein Bezahlmodell folgt, ist noch offen. Gründer Steeve Morin kommt aus der Engineering-Führung von Zenly, das Snapchat 2017 für einen neunstelligen Betrag übernahm, und konnte auf dieser Basis 20 Millionen US-Dollar von einer Reihe namhafter Venture-Firmen einsammeln – darunter Harry Stebbings' 20VC, Xavier Niels Kima Ventures und LocalGlobe. Das 20-köpfige Team sieht sich laut Morin bereits in einer Phase des „Co-Designing" von Silizium gemeinsam mit Chip-Herstellern, mehrheitlich europäischen wie Axelera, Fractile, Kalray oder SiPearl. Im Wettbewerb steht ZML/LLMD gegen spezialisierte Anbieter wie Baseten (zuletzt mit 13 Milliarden US-Dollar bewertet), Inferact (hinter vLLM) und RadixArk (hinter SGLang), beansprucht aber ein breiteres Spektrum. Zu den Angel-Investoren zählen prominente Technologiegründer wie Solomon Hykes (Dagger, Docker), Clément Delangue und Julien Chaumond von Hugging Face sowie Turing-Award-Träger Yann LeCun, der heute bei AMI Labs tätig ist.
- Morin nennt 8 europäische Chip-Startups als potenzielle ZML-Partner: Axelera, Fractile, Kalray, OLIX, Q.ANT, SiPearl, SpiNNcloud und VSORA.
- ZML/LLMD ist nicht Open Source – anders als das 2024 veröffentlichte ML-Framework, das im März aktualisiert wurde.
- Das 20-köpfige Team hat laut Morin 20 Mio. USD von u. a. 20VC, >commit, AALVC, Drysdale Ventures, Kima Ventures, Kindred Capital, LocalGlobe und Puzzle Ventures eingesammelt.
- Direkte Konkurrenten sind Baseten (13 Mrd. USD Bewertung), Inferact (vLLM-Gründer) und RadixArk (SGLang), deren Scope ZML laut Morin übertreffen will.
- Angel-Investoren umfassen Docker-Mitgründer Solomon Hykes sowie die Hugging-Face-Gründer Clément Delangue und Julien Chaumond.
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge

ZML lanciert kostenlosen LLM-Inferenzserver für diverse AI-Chips
ZML/LLMD ist der zweite öffentliche Vorstoß des Pariser Startups: Bereits 2024 hatte ZML ein inferenzfokussiertes ML-Framework veröffentlicht und dieses im März aktualisiert – jenes erste Projekt war Open Source, ZML/LLMD hingegen nicht. Der neue LLM-Inferenzserver startet als kostenloses Produkt, um zunächst Nutzungsdaten zu sammeln; wann und in welcher Form ein Bezahlmodell folgt, ist noch offen. Gründer Steeve Morin kommt aus der Engineering-Führung von Zenly, das Snapchat 2017 für einen neunstelligen Betrag übernahm, und konnte auf dieser Basis 20 Millionen US-Dollar von einer Reihe namhafter Venture-Firmen einsammeln – darunter Harry Stebbings' 20VC, Xavier Niels Kima Ventures und LocalGlobe. Das 20-köpfige Team sieht sich laut Morin bereits in einer Phase des „Co-Designing" von Silizium gemeinsam mit Chip-Herstellern, mehrheitlich europäischen wie Axelera, Fractile, Kalray oder SiPearl. Im Wettbewerb steht ZML/LLMD gegen spezialisierte Anbieter wie Baseten (zuletzt mit 13 Milliarden US-Dollar bewertet), Inferact (hinter vLLM) und RadixArk (hinter SGLang), beansprucht aber ein breiteres Spektrum. Zu den Angel-Investoren zählen prominente Technologiegründer wie Solomon Hykes (Dagger, Docker), Clément Delangue und Julien Chaumond von Hugging Face sowie Turing-Award-Träger Yann LeCun, der heute bei AMI Labs tätig ist.
- Morin nennt 8 europäische Chip-Startups als potenzielle ZML-Partner: Axelera, Fractile, Kalray, OLIX, Q.ANT, SiPearl, SpiNNcloud und VSORA.
- ZML/LLMD ist nicht Open Source – anders als das 2024 veröffentlichte ML-Framework, das im März aktualisiert wurde.
- Das 20-köpfige Team hat laut Morin 20 Mio. USD von u. a. 20VC, >commit, AALVC, Drysdale Ventures, Kima Ventures, Kindred Capital, LocalGlobe und Puzzle Ventures eingesammelt.
- Direkte Konkurrenten sind Baseten (13 Mrd. USD Bewertung), Inferact (vLLM-Gründer) und RadixArk (SGLang), deren Scope ZML laut Morin übertreffen will.
- Angel-Investoren umfassen Docker-Mitgründer Solomon Hykes sowie die Hugging-Face-Gründer Clément Delangue und Julien Chaumond.
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.