LM Studio

Wer lokal mit mehreren Inference-Engines arbeitet, kann mit LlamaStash einen einzigen Einstiegspunkt nutzen statt engine-spezifische Konfigurationen zu pflegen. Aliases, Fallback-Routing und Kontext-Pooling (bis 1M ctx) sind besonders für Agent-Swarms relevant.

Für Entwickler und Nicht-Techniker, die lokale Modelle ohne Terminal nutzen wollen: Pumpkin abstrahiert llama.cpp vollständig, erkennt bestehende LM-Studio- und Ollama-Modelle und bringt direkt Coding-Agent, MCP-Konnektoren (GitHub, Notion, Postgres) und Vision-Fallback mit. Frühes Release, hauptsächlich auf Ubuntu/Mac getestet.

Zeigt, dass Gemma 4 26B dank MoE-Architektur auf Consumer-Hardware (RTX 3070 Ti, 8 GB VRAM) für mehrere gleichzeitige Personas nutzbar ist. Interessant: Die Kombination aus Tagebuch-Gedächtnis und Gesprächszeit führt zu messbarer Persönlichkeitsdrift zwischen Instanzen desselben Modells.

Wer lokale MCP-Server testet, muss verstehen, dass stdio-basierte Server nicht als persistente Netzwerkdienste laufen, sondern vom Client gestartet werden – Tool-Discovery erfolgt automatisch. LM Studio erfordert keine manuelle Tool-Auflistung, wenn die Konfiguration korrekt gesetzt ist.