★ Begriff· Infrastruktur
On-Device AI
LLM läuft lokal auf User-Hardware (Smartphone, Laptop) statt in der Cloud. Privacy + Latency-Vorteil, aber Modell-Grösse limitiert (<8B). Apple Intelligence, Ollama, LM Studio.
Verwandte Tools
Auch bekannt als
on device · on-device · local llm · edge ai
Aktivität
21
Mentions in den letzten 7 Tagen
4 Wochen
⚡neu · 21×
Zuletzt erwähnt in
- LiquidAI veröffentlicht LFM2.5-8B-A1B: Hybrid-Modell für On-Device-Einsatz2026-05-28
- Infrastruktur für lokale LLM-Agenten: Lektionen mit vLLM und Long-Context2026-05-28
- Google stellt Coral Board vor: Mini-Computer führt Gemma 3 lokal aus2026-05-28
- LocalLLaMA-Community diskutiert Multi-User-Setup mit vLLM, llama-swap und LibreChat2026-05-28
- Vertu Alphafold: KI-Foldable für Führungskräfte ab 6.880 Dollar2026-05-28