Apple Silicon Mac을 쓸 만한 큰 이유 중 하나는 로컬 AI입니다. M 시리즈 칩의 통합 메모리 덕분에 기본형 Mac Mini나 MacBook Pro로도 Llama 3.3, Mistral, DeepSeek Coder 같은 모델을 놀라울 만큼 빠르게 돌릴 수 있고, 매달 API 요금을 낼 필요도 없습니다.
이런 모델을 로컬에서 돌릴 때 가장 많이 쓰는 도구가 Ollama입니다. 터미널에서 바로 오픈 웨이트 모델을 내려받고 관리하고 대화할 수 있는 깔끔한 CLI를 제공합니다.
문제는 자리를 비웠을 때입니다. 휴대폰으로 로컬 모델에 코딩 질문을 하고 싶을 때도 있고, 프롬프트 처리 속도를 확인하거나 외출 중에 14B 파라미터 모델을 내려받아 두고 싶을 때도 있습니다. 이 글에서는 iPhone으로 Mac의 Ollama를 실행하고 제어하는 방법과, 흔히 알려진 기존 방식이 위험한 이유를 설명합니다.
위험한 방법: 11434 포트 공개하기
Reddit이나 GitHub에서 휴대폰을 Ollama에 연결하는 방법을 찾아보면, 대부분의 튜토리얼은 터미널에서 다음을 실행하라고 안내합니다.
launchctl setenv OLLAMA_HOST "0.0.0.0:11434"Ollama는 기본적으로 127.0.0.1(localhost)에서만 연결을 받습니다. 이를 0.0.0.0으로 바꾸면 네트워크의 모든 기기에서 들어오는 연결을 받게 됩니다.
그다음 서드파티 iOS 채팅 앱을 받아 Mac의 로컬 IP 주소를 입력하고, 집 밖에서도 쓰려면 공유기에서 11434 포트를 포트 포워딩하라고 합니다.
더 나은 방법: Macky로 터미널에 직접 접속하기
인증 없는 HTTP 포트를 공개하거나 복잡한 리버스 프록시를 설정하는 대신, iPhone에서 Mac의 셸에 직접 들어가 Ollama를 실행하는 것이 가장 깔끔합니다.
Macky를 쓰면 iPhone이 P2P WebRTC로 Mac의 zsh 셸에 바로 연결됩니다. 모든 데이터는 DTLS-SRTP로 종단 간 암호화되며, 포트를 열거나 Ollama의 호스트 환경 변수를 바꿀 필요가 없습니다.
사용 흐름:
- iPhone에서 Macky를 열고 Mac을 탭해 연결합니다.
- 평소 쓰던 명령어를 입력합니다. 예:
ollama run deepseek-coder:6.7b - 휴대폰 키보드로 코드 조각이나 파일 경로를 포함해 프롬프트를 입력합니다.
- 토큰이 지연 없이 실시간으로 출력됩니다.
휴대폰에서 쓰기 좋은 Ollama 명령어
휴대폰에서 터미널에 바로 접속할 수 있으면 서버 관리가 훨씬 쉬워집니다. 어디서든 실행할 수 있는 자주 쓰는 작업 네 가지를 소개합니다.
Mac에 어떤 모델이 내려받아져 있고 디스크 공간을 얼마나 쓰는지 확인합니다.
지금 어떤 모델이 Mac의 통합 메모리에 올라가 있고 VRAM을 얼마나 쓰는지 확인합니다.
외출 중에 9 GB 모델 다운로드를 시작해 두면 자리에 돌아왔을 때 바로 쓸 수 있습니다.
Mac에서 다른 작업을 위해 RAM을 비워야 할 때 큰 모델을 바로 메모리에서 내립니다.
Open WebUI 같은 웹 UI는 어떨까요?
Mac의 Docker 컨테이너에서 Open WebUI 같은 웹 인터페이스를 돌리는 방법도 많이 씁니다. 채팅 기록, 시스템 프롬프트, 문서 업로드를 지원하는 ChatGPT 스타일의 깔끔한 화면을 쓸 수 있습니다.
하지만 이 방법을 써도 집 밖에서 웹 인터페이스에 접속해야 한다는 같은 네트워크 문제가 남습니다.
두 기기에 Tailscale을 설치해 로컬 Docker 컨테이너 IP로 접속하거나, Macky의 전체 화면 데스크톱 모드로 브라우저를 직접 볼 수도 있습니다. 다만 간단한 코딩 질문, 모델 확인, 셸 스크립트 실행이라면 3초 만에 열리는 터미널 세션이 가장 편합니다.
2분이면 시작할 수 있습니다
이미 Mac에 Ollama를 설치했다면 90%는 끝난 셈입니다. Mac에 Macky 호스트를, iPhone에 iOS 앱을 설치하면 세계 어디서든 로컬 모델과 대화할 수 있습니다.