TextGen, ursprünglich als text-generation-webui im Dezember 2022 von Nutzer oobabooga gestartet – noch vor dem Erscheinen von LLaMA und llama.cpp –, hat sich in den letzten zwei Monaten von einer Browser-Oberfläche zu einer nativen Desktop-Applikation gewandelt. Die App basiert auf einer schlanken Electron-Integration und ist als portables ZIP-Archiv verfügbar: Entpacken, Doppelklick, fertig – ohne Installer oder systemweite Dateien. Builds existieren für CUDA, Vulkan, CPU-only, ROCm sowie Apple Silicon und Intel-Mac. Als zentrales Differenzierungsmerkmal gegenüber LM Studio hebt der Entwickler den vollständigen Verzicht auf Telemetrie hervor. Technisch setzt TextGen auf den ik_llama.cpp-Fork statt auf vanilla llama.cpp, der neue Quantisierungstypen wie IQ4_KS und IQ5_KS mit verbesserter Genauigkeit mitbringt. Integriert sind außerdem: Web-Suche via ddgs-Bibliothek, Tool-Calling über .py-Einzeldateien sowie HTTP- und stdio-MCP-Server, PDF-Extraktion mit PyMuPDF, Web-Scraping mit trafilatura und Jinja2-basiertes Chat-Template-Rendering. Die OpenAI- und Anthropic-konforme API erlaubt den direkten Einsatz mit Claude Code. Das Projekt steht unter AGPLv3 auf GitHub.