
CLI-Agent mit Python und Ollama lokal aufbauen – Schritt-für-Schritt
Der Artikel von Mauro Di Pietro beschreibt Schritt für Schritt, wie ein vollständig lokal laufender CLI-Agent mit Python und der Ollama-Bibliothek (Version 0.6.2) aufgebaut wird. Als Sprachmodell kommt Alibabas Qwen2.5 zum Einsatz, das laut Autor eine gute Balance zwischen Intelligenz und geringem Ressourcenverbrauch bietet. Der Kern des Agenten besteht aus einer Tool-Calling-Architektur: Eine Python-Funktion `execute_shell_command` kapselt das `subprocess`-Modul und führt beliebige Shell-Befehle aus, deren Ausgabe (stdout oder stderr) direkt an das Modell zurückgegeben wird. Die Funktion ist per `TOOLS_SCHEMA` im Ollama-Format registriert, sodass das Modell eigenständig entscheiden kann, wann es das Tool aufruft. Der Agent läuft in einer dauerhaften Chat-Schleife mit drei Nachrichtenrollen – system, user und assistant –, wobei das System-Prompt den Agenten als lokalen CLI-Assistenten instruiert. Historisch ordnet Di Pietro CLI-Agenten in eine Entwicklungslinie ein: Nach dem ChatGPT-Release 2022 und dem OpenAI-Tool-Calling-Durchbruch 2023 erschienen 2025 spezialisierte CLI-Agenten wie Super CLI, Anthropic Claude Code und OpenAI Codex CLI. Das Tutorial richtet sich explizit an die Kategorie „fully-local", bei der Modell und Orchestrierung ausschließlich auf dem eigenen Rechner laufen – ohne Cloud-Verbindung und ohne API-Kosten.
- Ollama wird via `pip install ollama==0.6.2` installiert; das Modell Qwen2.5 wird anschließend direkt per CLI-Befehl heruntergeladen.
- Das `subprocess`-Modul führt Shell-Befehle mit einem Timeout von 10 Sekunden aus und gibt bei Fehler stderr statt stdout zurück.
- Drei Kategorien von CLI-Agenten werden unterschieden: Cloud-native (z. B. Claude Code), Open-Source (z. B. Hermes) und Fully-local (z. B. Ollama).
- Tool-Calls werden in einer While-Schleife innerhalb der Chat-Schleife verarbeitet: Das Modell kann mehrere Tool-Aufrufe hintereinander anfordern, bevor es eine finale Textantwort liefert.
- Super CLI wird als erster explizit für das Terminal konzipierter KI-Agent genannt, dem Claude Code und Codex CLI von Anthropic bzw. OpenAI folgten.
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
- MEINUNGtowardsdatascience.com2w
Tutorial: Ersten AI-Agenten mit einem Tool-Call bauen
- LAUNCHgithub.com1w
OpenAI veröffentlicht offizielles CLI für die REST API
- MEINUNGlatent.space2d
Offline-Coding-Agent im Himalaya: OpenCode mit Qwen3.5 9B lokal betreiben
- MEINUNGtowardsdatascience.com5d
Guardrails für lokale LLM-Agents mit Gemma 4, Ollama und OpenAI Agents SDK

CLI-Agent mit Python und Ollama lokal aufbauen – Schritt-für-Schritt
Der Artikel von Mauro Di Pietro beschreibt Schritt für Schritt, wie ein vollständig lokal laufender CLI-Agent mit Python und der Ollama-Bibliothek (Version 0.6.2) aufgebaut wird. Als Sprachmodell kommt Alibabas Qwen2.5 zum Einsatz, das laut Autor eine gute Balance zwischen Intelligenz und geringem Ressourcenverbrauch bietet. Der Kern des Agenten besteht aus einer Tool-Calling-Architektur: Eine Python-Funktion `execute_shell_command` kapselt das `subprocess`-Modul und führt beliebige Shell-Befehle aus, deren Ausgabe (stdout oder stderr) direkt an das Modell zurückgegeben wird. Die Funktion ist per `TOOLS_SCHEMA` im Ollama-Format registriert, sodass das Modell eigenständig entscheiden kann, wann es das Tool aufruft. Der Agent läuft in einer dauerhaften Chat-Schleife mit drei Nachrichtenrollen – system, user und assistant –, wobei das System-Prompt den Agenten als lokalen CLI-Assistenten instruiert. Historisch ordnet Di Pietro CLI-Agenten in eine Entwicklungslinie ein: Nach dem ChatGPT-Release 2022 und dem OpenAI-Tool-Calling-Durchbruch 2023 erschienen 2025 spezialisierte CLI-Agenten wie Super CLI, Anthropic Claude Code und OpenAI Codex CLI. Das Tutorial richtet sich explizit an die Kategorie „fully-local", bei der Modell und Orchestrierung ausschließlich auf dem eigenen Rechner laufen – ohne Cloud-Verbindung und ohne API-Kosten.
- Ollama wird via `pip install ollama==0.6.2` installiert; das Modell Qwen2.5 wird anschließend direkt per CLI-Befehl heruntergeladen.
- Das `subprocess`-Modul führt Shell-Befehle mit einem Timeout von 10 Sekunden aus und gibt bei Fehler stderr statt stdout zurück.
- Drei Kategorien von CLI-Agenten werden unterschieden: Cloud-native (z. B. Claude Code), Open-Source (z. B. Hermes) und Fully-local (z. B. Ollama).
- Tool-Calls werden in einer While-Schleife innerhalb der Chat-Schleife verarbeitet: Das Modell kann mehrere Tool-Aufrufe hintereinander anfordern, bevor es eine finale Textantwort liefert.
- Super CLI wird als erster explizit für das Terminal konzipierter KI-Agent genannt, dem Claude Code und Codex CLI von Anthropic bzw. OpenAI folgten.
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
- MEINUNGtowardsdatascience.com2w
Tutorial: Ersten AI-Agenten mit einem Tool-Call bauen
- LAUNCHgithub.com1w
OpenAI veröffentlicht offizielles CLI für die REST API
- MEINUNGlatent.space2d
Offline-Coding-Agent im Himalaya: OpenCode mit Qwen3.5 9B lokal betreiben
- MEINUNGtowardsdatascience.com5d
Guardrails für lokale LLM-Agents mit Gemma 4, Ollama und OpenAI Agents SDK