Desktop-App wandelt Chat-Korrekturen direkt in LoRA-Training um
Der Reddit-Nutzer /u/DifficultDog8435 beschreibt, wie er aus der Frustration über nicht-lernende lokale Modelle eine Desktop-App namens TideForge (tideforge.ai/seels) entwickelt hat. Kernidee: Jede Chat-Antwort erhält einen „Teach"-Button. Klickt man ihn, schreibt man die gewünschte Antwort – die Korrekturen landen als JSONL-Datei lokal auf der Festplatte. Sobald genug Beispiele gesammelt sind, startet ein integrierter PEFT/LoRA-Trainingslauf gegen das aktive Basismodell; der resultierende Adapter landet in einer Registry und lässt sich per Model Picker aktivieren. Ein „Training Proof Panel" zeigt Candidate- vs. Baseline-Scores nebeneinander, inklusive neu bestandener und regressierter Prompts. Im ersten Proof-of-Concept wurden 110 handgeschriebene Korrekturen für eine kleine Helfer-Persona genutzt; Qwen3 0.6B mit dem Adapter bestand ca. 30 Jailbreak-Prompts und beantwortete Domänenfragen, die das Basismodell nicht lösen konnte. Die App läuft auf Windows 10/11 (64-bit), bringt CUDA-Runtime und ein portables Python als Sidecar mit (~2,8 GB Installer), unterstützt beliebige GGUF-Modelle sowie Voice-Modus via Whisper STT und Piper TTS. Das Projekt befindet sich im Alpha-Stadium.
- Korrekturen speichert die App als JSONL im Profilordner – lokal, per grep durchsuchbar
- Adapter-Registry erlaubt das Umschalten zwischen verschiedenen trainierten Adaptern im Model Picker
- Voice-Modus mit Whisper STT + Piper TTS ist dauerhaft kostenlos enthalten
- App ist via Azure Trusted Signing signiert; SmartScreen-Warnung bei Erstinstallation erwartet
- Technischer Stack: Tauri (kein Electron), separates Python-Sidecar für das Training
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
Desktop-App wandelt Chat-Korrekturen direkt in LoRA-Training um
Der Reddit-Nutzer /u/DifficultDog8435 beschreibt, wie er aus der Frustration über nicht-lernende lokale Modelle eine Desktop-App namens TideForge (tideforge.ai/seels) entwickelt hat. Kernidee: Jede Chat-Antwort erhält einen „Teach"-Button. Klickt man ihn, schreibt man die gewünschte Antwort – die Korrekturen landen als JSONL-Datei lokal auf der Festplatte. Sobald genug Beispiele gesammelt sind, startet ein integrierter PEFT/LoRA-Trainingslauf gegen das aktive Basismodell; der resultierende Adapter landet in einer Registry und lässt sich per Model Picker aktivieren. Ein „Training Proof Panel" zeigt Candidate- vs. Baseline-Scores nebeneinander, inklusive neu bestandener und regressierter Prompts. Im ersten Proof-of-Concept wurden 110 handgeschriebene Korrekturen für eine kleine Helfer-Persona genutzt; Qwen3 0.6B mit dem Adapter bestand ca. 30 Jailbreak-Prompts und beantwortete Domänenfragen, die das Basismodell nicht lösen konnte. Die App läuft auf Windows 10/11 (64-bit), bringt CUDA-Runtime und ein portables Python als Sidecar mit (~2,8 GB Installer), unterstützt beliebige GGUF-Modelle sowie Voice-Modus via Whisper STT und Piper TTS. Das Projekt befindet sich im Alpha-Stadium.
- Korrekturen speichert die App als JSONL im Profilordner – lokal, per grep durchsuchbar
- Adapter-Registry erlaubt das Umschalten zwischen verschiedenen trainierten Adaptern im Model Picker
- Voice-Modus mit Whisper STT + Piper TTS ist dauerhaft kostenlos enthalten
- App ist via Azure Trusted Signing signiert; SmartScreen-Warnung bei Erstinstallation erwartet
- Technischer Stack: Tauri (kein Electron), separates Python-Sidecar für das Training
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.