Apple Silicon을 탑재한 Mac mini(M2, M4 또는 Mac Studio)는 홈서버와 개발용 컴퓨터로 손꼽히는 선택지입니다. 대기 상태에서 전력을 10와트도 쓰지 않고, 소음도 거의 없습니다. 통합 메모리 대역폭이 넓어서 Docker 컨테이너, Plex 라이브러리, CI 빌드 러너, 로컬 LLM을 돌리기에 좋습니다.
대부분의 개발자가 원하는 구성은 간단합니다. Mac mini에 전원과 이더넷 케이블만 꽂고, 모니터나 키보드, 마우스 없이 옷장이나 선반 아래에 넣어 두고 원격으로 관리하는 것입니다.
하지만 macOS를 “헤드리스”로 돌리면 몇 가지 함정이 있습니다. 대비하지 않으면 첫 재시동 후 Mac에 접속하지 못할 수도 있습니다. 이 글에서는 디스플레이 에뮬레이션, 전원 설정, 원격 접속까지 항상 켜 두는 헤드리스 Mac mini 서버를 만드는 방법을 정리했습니다.
함정 1: 부팅 전 FileVault 잠금
헤드리스 Mac 구성이 실패하는 가장 흔한 원인입니다.
FileVault(디스크 전체 암호화)가 켜져 있으면 macOS는 시동할 때 운영체제, Wi-Fi 드라이버, 네트워크를 불러오지 않습니다. 대신 부팅 전 간이 화면에서 멈추고, 연결된 키보드로 누군가 암호를 입력하기를 기다립니다.
정전이 되거나 소프트웨어 업데이트 후 재시동되면 서버는 이 화면에서 계속 멈춰 있습니다. SSH도 연결되지 않고 Tailscale도 시작되지 않으며, 원격 데스크톱 도구에서는 오프라인으로 표시됩니다.
함정 2: 해상도 저하와 디스플레이 미인식
HDMI나 Thunderbolt 포트에 실제 디스플레이가 연결되어 있지 않으면 macOS의 WindowServer는 화면을 그리는 방식을 바꿉니다.
- •낮은 해상도: 원격 세션이 Retina가 아닌 흐릿한 1024x768이나 1280x1024 화면으로 열리는 경우가 많습니다.
- •하드웨어 가속 비활성화: 디스플레이 출력이 없으면 Metal을 쓰는 일부 프레임워크가 잠들거나 프레임을 놓칩니다.
해결 방법은 두 가지입니다.
방법 A: 7달러짜리 HDMI 더미 플러그
HDMI 포트에 꽂는 작은 플러그입니다. EDID 정보를 보내서 macOS가 GPU 가속을 갖춘 가상 4K 디스플레이가 있다고 인식하게 합니다. 따로 설정할 것이 없고, OS를 업데이트해도 그대로 작동합니다.
방법 B: BetterDisplay 가상 화면
동글 없이 소프트웨어만으로 가상 디스플레이를 만드는 인기 macOS 유틸리티입니다. HiDPI 해상도(예: 2560x1440 Retina)를 정확히 지정할 수 있어서 원격으로 볼 때도 글자가 선명합니다.
함정 3: 에너지 절약과 자동 로그인 설정
모니터를 빼기 전에 다음 전원 설정을 마쳐 두세요.
- 자동 로그인 켜기: 시스템 설정 > 사용자 및 그룹 > 다음으로 자동 로그인에서 주로 쓰는 사용자 계정을 선택합니다. 그래야 시동하자마자 백그라운드 데몬이 실행됩니다.
- 정전 후 재시동: 시스템 설정 > 에너지 절약에서 “정전 후 자동으로 시동”을 켭니다.
- 네트워크 접근 시 깨우기: “네트워크 접근 시 깨우기”가 켜져 있는지 확인하세요. 패킷이 들어오면 Mac이 깨어납니다.
- 시스템 잠자기 끄기: 에너지 절약에서 전원에 연결된 동안 자동으로 잠자기 상태가 되지 않도록 설정합니다.
원격 접속 설정: 터미널과 화면
Mac mini가 헤드리스로 돌아가기 시작했다면, iPhone이나 노트북에서 안정적으로 접속할 클라이언트가 필요합니다.
전통적인 방법은 원격 로그인(SSH)과 화면 공유(VNC)를 켠 다음, 집 Wi-Fi 밖에서도 접속할 수 있도록 Tailscale 같은 메시 VPN을 설정하는 것입니다.
훨씬 간단한 방법은 Macky를 설치하는 것입니다.
Macky는 Mac mini의 메뉴 막대에서 가볍게 실행됩니다. P2P WebRTC를 쓰기 때문에 집의 방화벽과 NAT를 자동으로 통과합니다. 공유기 포트를 열거나 IP 주소를 기억하거나 VPN을 관리할 필요가 없습니다.
헤드리스 Mac에서 Macky로 할 수 있는 것:
- • Unix 터미널 직접 연결: Docker, git, npm, homebrew를 ANSI 색상으로 쓸 수 있고 배터리 소모도 적습니다.
- • 60fps 데스크톱 화면: GUI 앱을 써야 하거나 시스템 알림을 닫아야 할 때 실제 데스크톱을 터치로 조작할 수 있습니다.
- • 릴레이 없음: 종단 간 암호화된 P2P 연결이며 클라우드에 로그가 남지 않습니다.
다음에 무엇을 돌릴지 고민 중이라면 맥미니 홈서버 가이드를 참고하세요.
체크리스트
- ✓ FileVault 끄기(키보드 없이 시동할 수 있도록)
- ✓ 주 사용자 계정으로 자동 로그인 켜기
- ✓ 정전 후 자동으로 시동 켜기
- ✓ HDMI 더미 플러그나 BetterDisplay 가상 디스플레이로 선명한 Retina 해상도 설정
- ✓ 메뉴 막대에 Macky를 설치해 iPhone에서 바로 접속