Jenny: Quelloffene Electron-Desktop-App für lokale LLMs mit Tool-Calling und IDE
Jenny ist ein Solo-Projekt von Reddit-Nutzer TangySword (GitHub: SaltyPretz3l), das über anderthalb Jahre in Nächten und Wochenenden entstanden ist. Der Entwickler begründet den Antrieb hinter dem Projekt explizit mit der Sorge, dass die derzeitige Subventionierung von Frontier-LLM-Diensten durch Risikokapital nicht dauerhaft Bestand haben werde. Jenny basiert auf Electron und richtet sich an Nutzer, die lokale Modelle ohne externe Netzwerkaufrufe betreiben wollen. Als besonders empfehlenswert für Tool-Calling nennt der Autor das Modell ornith1.5:9b, das er auch selbst auf einer RTX 5070 Ti unter Windows einsetzt. Neben dem eigentlichen Chat bietet die App Kalender- und Scratchpad-Funktionen, auf die das Modell lesend und schreibend zugreifen kann. Für den Backend-Betrieb unterstützt Jenny llama.cpp, vLLM sowie beliebige OpenAI-kompatible Endpunkte; GGUF-Dateien lassen sich über einen integrierten verwalteten llama-server (mit MTP-Unterstützung) laden. Der aktuelle Release-Stand gilt für Windows als stabil, macOS wurde vom Entwickler mangels Hardware nicht getestet, Linux wird aufgrund von Einschränkungen der Engine-Anbieter vorerst nicht unterstützt.
- Empfohlenes Modell für Tool-Calling: ornith1.5:9b – vom Entwickler explizit als schnell und geeignet für kleine Modelle hervorgehoben.
- Sicherheitsmechanismus: Destruktive Shell-Befehle erfordern explizite Nutzer-Bestätigung (Approval); Dateiänderungen werden als Checkpoints gespeichert.
- Telemetrie ist ausschließlich nutzerseitig und lokal – dient nur dem eigenen Debugging, keine externen Datenweiterleitungen.
- Windows-Build mit RTX 5070 Ti getestet und als performant eingestuft; macOS ungetestet, Linux nicht unterstützt.
- Unsigned Windows-Installer (.exe) über GitHub Releases verfügbar – SmartScreen-Warnung wird beim Start angezeigt.
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
Jenny: Quelloffene Electron-Desktop-App für lokale LLMs mit Tool-Calling und IDE
Jenny ist ein Solo-Projekt von Reddit-Nutzer TangySword (GitHub: SaltyPretz3l), das über anderthalb Jahre in Nächten und Wochenenden entstanden ist. Der Entwickler begründet den Antrieb hinter dem Projekt explizit mit der Sorge, dass die derzeitige Subventionierung von Frontier-LLM-Diensten durch Risikokapital nicht dauerhaft Bestand haben werde. Jenny basiert auf Electron und richtet sich an Nutzer, die lokale Modelle ohne externe Netzwerkaufrufe betreiben wollen. Als besonders empfehlenswert für Tool-Calling nennt der Autor das Modell ornith1.5:9b, das er auch selbst auf einer RTX 5070 Ti unter Windows einsetzt. Neben dem eigentlichen Chat bietet die App Kalender- und Scratchpad-Funktionen, auf die das Modell lesend und schreibend zugreifen kann. Für den Backend-Betrieb unterstützt Jenny llama.cpp, vLLM sowie beliebige OpenAI-kompatible Endpunkte; GGUF-Dateien lassen sich über einen integrierten verwalteten llama-server (mit MTP-Unterstützung) laden. Der aktuelle Release-Stand gilt für Windows als stabil, macOS wurde vom Entwickler mangels Hardware nicht getestet, Linux wird aufgrund von Einschränkungen der Engine-Anbieter vorerst nicht unterstützt.
- Empfohlenes Modell für Tool-Calling: ornith1.5:9b – vom Entwickler explizit als schnell und geeignet für kleine Modelle hervorgehoben.
- Sicherheitsmechanismus: Destruktive Shell-Befehle erfordern explizite Nutzer-Bestätigung (Approval); Dateiänderungen werden als Checkpoints gespeichert.
- Telemetrie ist ausschließlich nutzerseitig und lokal – dient nur dem eigenen Debugging, keine externen Datenweiterleitungen.
- Windows-Build mit RTX 5070 Ti getestet und als performant eingestuft; macOS ungetestet, Linux nicht unterstützt.
- Unsigned Windows-Installer (.exe) über GitHub Releases verfügbar – SmartScreen-Warnung wird beim Start angezeigt.
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.