Sprache
4. Oktober 20266 Min. Lesezeit

Ollama (lokale LLMs) auf dem Mac vom iPhone aus starten und steuern (2026)

Einer der besten Gründe für einen Mac mit Apple Silicon ist lokale KI. Dank des Unified Memory der M-Chips führt schon ein einfacher Mac Mini oder MacBook Pro Modelle wie Llama 3.3, Mistral und DeepSeek Coder erstaunlich schnell aus. Monatliche API-Rechnungen fallen dabei nicht an.

Das Standard-Tool für lokale Modelle ist Ollama. Es bietet eine aufgeräumte CLI, mit der Sie Open-Weight-Modelle direkt im Terminal herunterladen, verwalten und mit ihnen chatten.

Schwierig wird es, sobald Sie nicht am Schreibtisch sitzen. Vielleicht wollen Sie Ihrem lokalen Modell vom Handy aus eine Programmierfrage stellen, prüfen, wie schnell ein Prompt verarbeitet wird, oder unterwegs ein Modell mit 14B Parametern herunterladen. Hier lesen Sie, wie Sie Ollama auf Ihrem Mac vom iPhone aus starten und steuern. Außerdem erfahren Sie, warum die übliche Anleitung dafür meist gefährlich ist.

Der riskante Weg: Port 11434 freigeben

Wenn Sie auf Reddit oder GitHub nachsehen, wie man das Handy mit Ollama verbindet, empfehlen die meisten Anleitungen diesen Befehl im Terminal:

launchctl setenv OLLAMA_HOST "0.0.0.0:11434"

Standardmäßig lauscht Ollama nur auf 127.0.0.1 (localhost). Mit 0.0.0.0 nimmt Ollama Verbindungen von jedem Gerät in Ihrem Netzwerk an.

Danach sollen Sie eine iOS-Chat-App eines Drittanbieters installieren, die lokale IP-Adresse Ihres Macs eintragen und Port 11434 im Router weiterleiten, damit es auch außer Haus funktioniert.

Warum das keine gute Idee ist: Ollama hat ab Werk keinerlei Authentifizierung oder Passwortschutz. Wer Ihren offenen Port findet, kann Ihre Modelle abfragen, Gigabytes an Gewichten auf Ihre Festplatte laden oder Prompt-Injection-Angriffe gegen Ihren Rechner starten. Öffnen Sie Port 11434 niemals für das öffentliche Internet.

Der bessere Weg: direkter Terminal-Zugriff mit Macky

Statt einen HTTP-Port ohne Authentifizierung freizugeben oder komplizierte Reverse Proxys einzurichten, nutzen Sie Ollama am saubersten direkt in der Shell Ihres Macs, und zwar vom iPhone aus.

Mit Macky verbindet sich Ihr iPhone per Peer-to-Peer-WebRTC direkt mit der zsh-Shell Ihres Macs. Alle Daten sind mit DTLS-SRTP Ende-zu-Ende verschlüsselt. Sie müssen keine Ports öffnen und keine Umgebungsvariablen für den Ollama-Host ändern.

So sieht der Ablauf aus:

  1. Öffnen Sie Macky auf dem iPhone und tippen Sie auf Ihren Mac, um sich zu verbinden.
  2. Geben Sie Ihren gewohnten Befehl ein, zum Beispiel ollama run deepseek-coder:6.7b.
  3. Tippen Sie Ihren Prompt mit der Handy-Tastatur ein, gern mit Code-Schnipseln und Dateipfaden.
  4. Die Tokens kommen in Echtzeit und ohne Verzögerung zurück.

Nützliche Ollama-Befehle für unterwegs

Mit direktem Terminal-Zugriff auf dem Handy wird die Wartung des Servers deutlich einfacher. Hier sind vier typische Aufgaben, die Sie von überall starten können:

ollama list

Zeigt, welche Modelle auf Ihrem Mac heruntergeladen sind und wie viel Speicherplatz sie belegen.

ollama ps

Zeigt, welches Modell gerade im Unified Memory Ihres Macs liegt und wie viel VRAM es belegt.

ollama pull qwen2.5-coder:14b

Startet unterwegs einen 9 GB großen Modell-Download, damit das Modell bereitsteht, wenn Sie wieder am Schreibtisch sitzen.

ollama stop llama3.3

Entlädt ein großes Modell sofort aus dem Speicher, wenn Sie auf dem Mac RAM für andere Aufgaben brauchen.

Und Web-Oberflächen wie Open WebUI?

Ein anderer beliebter Weg ist eine Web-Oberfläche wie Open WebUI in einem Docker-Container auf dem Mac. Sie bietet eine schicke Oberfläche im Stil von ChatGPT mit Chatverlauf, System-Prompts und Dokument-Uploads.

Auch dann bleibt dasselbe Netzwerkproblem: Sie müssen die Web-Oberfläche irgendwie von außerhalb erreichen.

Dafür können Sie Tailscale auf beiden Geräten nutzen und so die IP Ihres lokalen Docker-Containers erreichen. Oder Sie sehen sich den Browser direkt im Vollbild-Desktopmodus von Macky an. Für schnelle Programmierfragen, Modell-Checks und Shell-Skripte ist eine Terminal-Sitzung, die in drei Sekunden offen ist, aber am praktischsten.

In zwei Minuten startklar

Wenn Ollama schon auf Ihrem Mac installiert ist, haben Sie 90 % geschafft. Installieren Sie den Macky-Host auf dem Mac und die iOS-App auf dem iPhone. Dann können Sie von überall auf der Welt mit Ihren lokalen Modellen chatten.

Macky ausprobieren

Verbinden Sie sich vom iPhone mit Ihrem Mac-Terminal.