iOS-Apps für lokale LLM-Backends mit MCP und Web-Search gesucht
Der Reddit-Nutzer /u/Miserable-Dare5090 beschreibt ein konkretes Setup-Problem: Er möchte auf dem iPhone eine App nutzen, die Anfragen an ein lokales Backend (z. B. Mac Studio) weiterleitet – OpenAI-kompatibel – und dabei MCP-Unterstützung sowie Web-Search bietet. Die App 3Sparks funktioniert zuverlässig als Relay zum lokalen Server, unterstützt aber weder MCP noch Web-Search. Noema wirkte vielversprechend, scheitert aber bei DeepSeek V4 Flash vom Mac Studio an der Request-Verarbeitung. Apollo und Locally AI wurden ebenfalls getestet, ohne das gewünschte Feature-Set zu liefern. Apps, die Modelle direkt auf dem iPhone ausführen (on-device), kommen nicht infrage, da sie keine Remote-Endpoints unterstützen. Als Workaround funktioniert „Texting Hermes", ist dem Nutzer aber zu langsam, da es einen Agenten-Loop verwendet statt direkte API-Calls. Das Szenario – lokales Modell mit Web-Search live auf dem Smartphone vorführen – gilt als eindrucksvoller Proof of Concept für die Leistungsfähigkeit lokaler Infrastruktur.
- 3Sparks liefert stabilen OpenAI-kompatiblen Endpoint, bietet aber kein MCP und keine Web-Search.
- Noema scheitert bei DeepSeek V4 Flash vom Mac Studio – Requests kommen nicht durch.
- Texting Hermes funktioniert als Workaround, ist aber durch Agenten-Loop zu langsam.
- Apollo und Locally AI wurden ebenfalls getestet, ohne das vollständige Feature-Set zu erfüllen.
- On-Device-Apps (Modell läuft direkt auf dem iPhone) unterstützen keine Remote-Endpoints.
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
iOS-Apps für lokale LLM-Backends mit MCP und Web-Search gesucht
Der Reddit-Nutzer /u/Miserable-Dare5090 beschreibt ein konkretes Setup-Problem: Er möchte auf dem iPhone eine App nutzen, die Anfragen an ein lokales Backend (z. B. Mac Studio) weiterleitet – OpenAI-kompatibel – und dabei MCP-Unterstützung sowie Web-Search bietet. Die App 3Sparks funktioniert zuverlässig als Relay zum lokalen Server, unterstützt aber weder MCP noch Web-Search. Noema wirkte vielversprechend, scheitert aber bei DeepSeek V4 Flash vom Mac Studio an der Request-Verarbeitung. Apollo und Locally AI wurden ebenfalls getestet, ohne das gewünschte Feature-Set zu liefern. Apps, die Modelle direkt auf dem iPhone ausführen (on-device), kommen nicht infrage, da sie keine Remote-Endpoints unterstützen. Als Workaround funktioniert „Texting Hermes", ist dem Nutzer aber zu langsam, da es einen Agenten-Loop verwendet statt direkte API-Calls. Das Szenario – lokales Modell mit Web-Search live auf dem Smartphone vorführen – gilt als eindrucksvoller Proof of Concept für die Leistungsfähigkeit lokaler Infrastruktur.
- 3Sparks liefert stabilen OpenAI-kompatiblen Endpoint, bietet aber kein MCP und keine Web-Search.
- Noema scheitert bei DeepSeek V4 Flash vom Mac Studio – Requests kommen nicht durch.
- Texting Hermes funktioniert als Workaround, ist aber durch Agenten-Loop zu langsam.
- Apollo und Locally AI wurden ebenfalls getestet, ohne das vollständige Feature-Set zu erfüllen.
- On-Device-Apps (Modell läuft direkt auf dem iPhone) unterstützen keine Remote-Endpoints.
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.