Conifer: Neue lokale Inference-Engine in Rust und Metal für One-Click-Modelle
Der Reddit-Nutzer /u/justpokingaroundrq hat unter conifer.build ein lokales KI-Inference-Projekt vorgestellt, das er über mehrere Monate eigenständig entwickelt hat. Die Engine ist vollständig in Rust und Apple Metal geschrieben und bringt eigene Kernels mit. Laut Autor ist der Decode-Pfad bereits schneller als Referenzimplementierungen; an der Prefill-Performance wird noch gearbeitet. Die App soll den gesamten Stack vereinen: Modell-Download per Klick, vorausgewählte Quantisierungen, integrierter Toolsupport sowie MCP-Anbindung – ohne dass Nutzer selbst einen Inference-Server konfigurieren müssen. Repository und App wurden zum 1. Juni 2026 veröffentlicht und sind kostenlos und Open Source. Der Entwickler sammelt über den Reddit-Post noch Feedback, welche Modelle in der ersten Version priorisiert werden sollen.
- Engine komplett von Grund auf in Rust und Apple Metal geschrieben, eigene Kernels inklusive
- Decode-Pfad bereits schneller als Vergleichsimplementierungen; Prefill-Optimierung läuft noch
- Integrierter Support für Tools, Apps und MCP ohne externe Server-Konfiguration
- App und Repository ab 1. Juni 2026 kostenlos und Open Source unter conifer.build
- Entwickler sucht Community-Feedback zu priorisierten Modellen für die initiale Version
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
Conifer: Neue lokale Inference-Engine in Rust und Metal für One-Click-Modelle
Der Reddit-Nutzer /u/justpokingaroundrq hat unter conifer.build ein lokales KI-Inference-Projekt vorgestellt, das er über mehrere Monate eigenständig entwickelt hat. Die Engine ist vollständig in Rust und Apple Metal geschrieben und bringt eigene Kernels mit. Laut Autor ist der Decode-Pfad bereits schneller als Referenzimplementierungen; an der Prefill-Performance wird noch gearbeitet. Die App soll den gesamten Stack vereinen: Modell-Download per Klick, vorausgewählte Quantisierungen, integrierter Toolsupport sowie MCP-Anbindung – ohne dass Nutzer selbst einen Inference-Server konfigurieren müssen. Repository und App wurden zum 1. Juni 2026 veröffentlicht und sind kostenlos und Open Source. Der Entwickler sammelt über den Reddit-Post noch Feedback, welche Modelle in der ersten Version priorisiert werden sollen.
- Engine komplett von Grund auf in Rust und Apple Metal geschrieben, eigene Kernels inklusive
- Decode-Pfad bereits schneller als Vergleichsimplementierungen; Prefill-Optimierung läuft noch
- Integrierter Support für Tools, Apps und MCP ohne externe Server-Konfiguration
- App und Repository ab 1. Juni 2026 kostenlos und Open Source unter conifer.build
- Entwickler sucht Community-Feedback zu priorisierten Modellen für die initiale Version
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.