Der Artikel von Ivo Bernardo beschreibt die vollständige Einrichtung eines lokalen Large Language Models auf einem MacBook Air M4 mit 24 GB unified Memory – von der Installation bis zum ersten Chat. Als Modell wurde Qwen 3 8B gewählt, eine von Alibaba veröffentlichte Open-Source-Familie mit rund 9 Milliarden Gewichten, die im Betrieb etwa 6 GB RAM belegt und rund 5 GB Speicherplatz auf der Festplatte benötigt. Das zentrale Werkzeug ist Ollama, ein Open-Source-Framework, das intern auf llama.cpp mit Apples Metal-GPU-Beschleunigung setzt und einen Docker-ähnlichen Modell-Registry sowie eine lokale HTTP-API mitbringt. Der Autor betont, dass ein frisches System ohne Homebrew oder Python-Umgebung ausreicht; die Installation erfolgt manuell über einen ZIP-Download vom Ollama-Server, ein Symlink in ein lokales bin-Verzeichnis und den Start eines Hintergrundprozesses per nohup. Als zentrales Argument für den lokalen Betrieb nennt Bernardo digitale Souveränität: Sobald das Modell heruntergeladen ist, verlassen keinerlei Daten das Gerät – API-Keys, Nutzungsbedingungen und stille Datenretentionsrichtlinien entfallen vollständig. Er räumt jedoch ein, dass echte Demokratisierung noch aussteht: Das Setup setzt ein rund 1.500 Euro teures Gerät mit üppigem unified Memory und Kommandozeilen-Kenntnisse voraus. Für 8-GB-Macs empfiehlt er stattdessen die kleineren Qwen-Varianten mit 1,5B oder 3B Parametern.