Meera: Lokaler KI-Assistent für Linux-GNOME mit Qwen3.5-2B
Meera ist ein quelloffener, lokal laufender KI-Assistent für den Linux-GNOME-Desktop, entwickelt von einem Hardware-Ingenieur (/u/ReferenceOwn287) mit Unterstützung von Cursor als Coding-Assistent. Das Projekt startete im November und wurde nach zahlreichen Wochenenden in einem für die Community freigabefähigen Zustand veröffentlicht. Herzstück ist das Modell Qwen3.5-2B-Q4_K_M (1,2 GB), das über llama.cpp betrieben wird. Ein automatischer Installer richtet llama.cpp sowie alle Modelle ein; ist eine GPU vorhanden (Nvidia, AMD oder Intel-Integrated), wird automatisch eine Vulkan-Instanz genutzt. Kernproblem während der Entwicklung war die mangelnde Zuverlässigkeit kleiner Modelle beim Tool-Routing: Das Einbetten aller Tool-Schemas in den Prompt scheiterte. Die Lösung war ein zweites, noch kleineres Embedding-Modell, das per RAG die relevantesten Tools und Kontextchunks vorauswählt. Meera unterstützt Kalendereinträge, Erinnerungen, Lautstärke-/Helligkeits-/WLAN-Steuerung, Dateisuche und Prozessüberwachung. Getestet wurde auf Ubuntu 24.04 mit RTX 5090 sowie auf einem Intel-i3-Laptop mit Fedora Silverblue. Sprachein- und -ausgabe sind als nächstes Feature geplant.
- Modell: Qwen3.5-2B-Q4_K_M, Dateigröße 1,2 GB, betrieben via llama.cpp
- GPU-Erkennung automatisch: Nvidia/AMD/Intel mit Vulkan-Backend für höhere Geschwindigkeit
- Tool-Routing-Problem gelöst durch zweites Embedding-Modell + RAG-Exemplare statt Prompt-Schema-Embedding
- Anpassbar: Eigene Tools im Verzeichnis 'tools', eigene Wissensbasis in 'rag_data'; Modell austauschbar
- Getestet auf Ubuntu 24.04 (RTX 5090) und Fedora Silverblue (Intel i3-Laptop)
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
- LAUNCHreddit.com2d
Community-Tool will Local AI per Installer für alle zugänglich machen
- LAUNCHreddit.com17h
CrankGPT: Squeez Labs launcht handkurbelgetriebenes Edge-AI-Gerät für lokale LLMs
- MEINUNGreddit.com1w
Undergrad baut Research-Agent mit lokalem Qwen3.5-35B für Physics-Informed Neural Networks
- MEINUNGreddit.com1w
Community teilt lokale KI-Tools für den Alltag: Copyist und typeWhisper im Fokus
Meera: Lokaler KI-Assistent für Linux-GNOME mit Qwen3.5-2B
Meera ist ein quelloffener, lokal laufender KI-Assistent für den Linux-GNOME-Desktop, entwickelt von einem Hardware-Ingenieur (/u/ReferenceOwn287) mit Unterstützung von Cursor als Coding-Assistent. Das Projekt startete im November und wurde nach zahlreichen Wochenenden in einem für die Community freigabefähigen Zustand veröffentlicht. Herzstück ist das Modell Qwen3.5-2B-Q4_K_M (1,2 GB), das über llama.cpp betrieben wird. Ein automatischer Installer richtet llama.cpp sowie alle Modelle ein; ist eine GPU vorhanden (Nvidia, AMD oder Intel-Integrated), wird automatisch eine Vulkan-Instanz genutzt. Kernproblem während der Entwicklung war die mangelnde Zuverlässigkeit kleiner Modelle beim Tool-Routing: Das Einbetten aller Tool-Schemas in den Prompt scheiterte. Die Lösung war ein zweites, noch kleineres Embedding-Modell, das per RAG die relevantesten Tools und Kontextchunks vorauswählt. Meera unterstützt Kalendereinträge, Erinnerungen, Lautstärke-/Helligkeits-/WLAN-Steuerung, Dateisuche und Prozessüberwachung. Getestet wurde auf Ubuntu 24.04 mit RTX 5090 sowie auf einem Intel-i3-Laptop mit Fedora Silverblue. Sprachein- und -ausgabe sind als nächstes Feature geplant.
- Modell: Qwen3.5-2B-Q4_K_M, Dateigröße 1,2 GB, betrieben via llama.cpp
- GPU-Erkennung automatisch: Nvidia/AMD/Intel mit Vulkan-Backend für höhere Geschwindigkeit
- Tool-Routing-Problem gelöst durch zweites Embedding-Modell + RAG-Exemplare statt Prompt-Schema-Embedding
- Anpassbar: Eigene Tools im Verzeichnis 'tools', eigene Wissensbasis in 'rag_data'; Modell austauschbar
- Getestet auf Ubuntu 24.04 (RTX 5090) und Fedora Silverblue (Intel i3-Laptop)
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
- LAUNCHreddit.com2d
Community-Tool will Local AI per Installer für alle zugänglich machen
- LAUNCHreddit.com17h
CrankGPT: Squeez Labs launcht handkurbelgetriebenes Edge-AI-Gerät für lokale LLMs
- MEINUNGreddit.com1w
Undergrad baut Research-Agent mit lokalem Qwen3.5-35B für Physics-Informed Neural Networks
- MEINUNGreddit.com1w
Community teilt lokale KI-Tools für den Alltag: Copyist und typeWhisper im Fokus