핵심 요약
AI 요약
기사 목차 펼치기 / 접기
“매달 나가는 클라우드 API 토큰값을 아끼려면 맥미니를 사는 편이 이득일까.” AI 모델을 로컬 환경에서 직접 구동하려는 개발자와 엔지니어 사이에서 가장 뜨겁게 오가는 이 질문의 실제 해답을 찾기 위해, 본지는 신품과 중고를 망라한 애플 실리콘 맥미니 12개 구성을 한 장부에 올렸다.
그러나 비용 손익분기점을 따지기 전 반드시 넘어야 할 1차 관문이 있다. 바로 ‘속도’다. 아무리 기기값이 저렴해도 답변 한 줄을 출력하는 데 수십 초씩 걸린다면 실무 작업에서 쓸 수 없기 때문이다. 본지는 신품 M6·M5 프로 7개 구성과 중고 M1부터 M4 프로까지 5개 구성을 오픈소스 실행기 라마씨피피(llama.cpp) 커뮤니티 실측 데이터와 애플(Apple) 공식 하드웨어 사양표에 대조해, 모델별 초당 토큰 생성 속도를 전수 역산했다.
로컬 머신 사양표에서 간과되는 세 가지 진실
시중 하드웨어 비교에서 흔히 거론되는 N100 미니PC와 M4·M6 맥미니의 대역폭, 램, 소비전력 스펙에는 간과하기 쉬운 맹점이 있다. 인텔 N100은 단일 메모리 채널 구조로 DDR4-3200과 DDR5-4800 사양을 지원한다. 단일 채널로 계산하면 25.6GB/s와 38.4GB/s 대역폭이 나온다. 애플 M4의 120GB/s 대역폭 역시 공식 발표값과 일치한다.
M6에는 조건이 붙는다.
애플 공식 사양표를 보면 M6 맥미니는 16GB 모델이 153GB/s, 24GB와 32GB 모델이 170GB/s다. 동일한 칩셋이라도 메모리 용량에 따라 대역폭이 달라지므로, 시중에서 흔히 단일하게 인용하는 170GB/s는 32GB 구성을 전제로 한 값이다.
열설계전력(TDP)을 기기 소비전력으로 단순 대입하는 계산도 실증적이지 않다. 애플은 프로세서 개별 TDP를 공개하지 않는 대신 벽 콘센트 기준 소비전력을 공시한다. M6 16GB 모델은 유휴 상태 4W에 최대 70W, M4 16GB 모델은 유휴 4W에 최대 65W이며, 장시간 풀로드 추론 시에도 전력 소비는 이 공시 범위를 넘지 않는다.
실제 구매 가격 변동도 짚어야 한다. 애플 공식 스토어 기준 M6 32GB(SSD 256GB) 구성은 217만9000원으로 초기 예상가 200만원보다 18만원가량 비싸다. N100 미니PC 역시 가격이 올라 가격 비교 플랫폼 다나와 기준 신품 8GB 구성이 53만원대부터, 16GB 구성은 73만원대부터 출발한다.
ITWorld는 맥미니 가격 상승 배경으로 지속되는 글로벌 메모리 수급난을 지목했다.
맥미니 속도는 프로세서가 아니라 메모리 대역폭이 정한다
일반적인 컴퓨터 작업에서는 CPU나 GPU 코어의 연산 클럭이 성능을 좌우한다. 그러나 거대언어모델(LLM)이 문장을 출력하는 과정은 동작 메커니즘이 근본적으로 다르다. AI 모델은 답변을 작성할 때 단어 조각인 토큰(token)을 순차적으로 하나씩 추출하며, 토큰 하나를 뽑을 때마다 수십억 개의 모델 파라미터 가중치를 메모리에서 프로세서로 통째로 읽어 와야 한다.
따라서 메모리가 초당 전송할 수 있는 데이터양인 대역폭(memory bandwidth)이 토큰 생성 속도의 물리적 상한선을 결정한다. 프로세서의 연산 코어가 아무리 강력해도 메모리에서 가중치를 제때 넘겨받지 못하면 코어는 놀 수밖에 없다. 애플 머신러닝 연구팀 연구진 역시 첫 토큰 이후의 지속 생성 속도는 전적으로 메모리 대역폭에 종속된다고 설명했다.
토큰 생성 속도는 대역폭에 유효 활용률을 곱하고 토큰당 읽어 들이는 가중치 용량으로 나눠 도출했다. 활용률은 라마씨피피(llama.cpp) 커뮤니티 측정표에서 역산했다. 고해상도 사진을 압축하듯 자릿수 정밀도를 줄여 용량을 낮춘 70억 파라미터 4비트 양자화(Quantization) 모델(3.83GB)을 기준으로 칩셋별 생성 속도를 대역폭으로 나눈 활용률은 M1 0.80, M4 0.77, M4 프로 0.70, M6 0.81, M5 프로 0.84로 집계됐다.
메모리가 막히면 코어는 멈춘다.
도서관 사서 vs 장서 전체… MoE와 밀집 모델의 속도 격차
비교 모델은 4종이다. 구글(Google) 젬마(Gemma) 4 12B, 오픈AI(OpenAI) gpt-oss-20b, 젬마 4 26B-A4B, 알리바바(Alibaba) 큐웬(Qwen)3.8-27B를 선정했다. 이 가운데 gpt-oss-20b와 젬마 4 26B-A4B는 전문가 혼합(MoE, Mixture of Experts) 구조를 채택했다.
MoE 아키텍처는 거대한 도서관에서 질문 분야에 맞춰 특정 전문 사서 1명만 호출해 답변을 맡기는 원리와 같다. 도서관 전체 장서(전체 가중치)는 메모리에 상주해야 하지만, 실제 연산 시에는 해당 전문가 파라미터만 읽어 들이므로 토큰 생성 속도가 비약적으로 빠르다. 실제로 오픈AI 기술 문서를 대조하면 gpt-oss-20b는 전체 210억 파라미터 중 36억개만 활성화하여 토큰당 읽기 용량이 2GB대에 불과하다. 반면 큐웬3.8-27B는 270억개 파라미터 전체를 매 연산마다 동원하는 밀집(Dense) 모델이어서, 4비트 양자화 모델(17.44GB) 전체를 토큰마다 메모리에서 반복 호출해야 한다.
사서만 부르면 속도는 수직 상승한다.
| 구성(대역폭) | 젬마 4 12B | gpt-oss-20b | 젬마 4 26B-A4B | 큐웬3.8-27B |
|---|---|---|---|---|
| M1 16GB(68GB/s) | 7.1 | – | – | – |
| M4 16GB(120GB/s) | 12.1 | 빠듯 | – | – |
| M4 24GB(120GB/s) | 12.1 | 42.0 | 40.1 | – |
| M4 프로 24GB·64GB(273GB/s) | 24.8 | 86.4 | 82.7 | 10.9(64GB) |
| M6 16GB(153GB/s) | 16.1 | 빠듯 | – | – |
| M6 24GB·32GB(170GB/s) | 17.9 | 62.2 | 59.5 | 7.8(32GB) |
| M5 프로 24~64GB(307GB/s) | 33.8 | 117.7 | 112.6 | 14.8(48GB 이상) |
표의 수치는 공개 벤치마크 측정표를 바탕으로 환산한 초당 생성 토큰 수다. 애플 실리콘의 통합 메모리(Unified Memory)는 CPU와 GPU가 커다란 식탁에서 음식을 공유하듯 단일 메모리 풀을 함께 쓰는 구조다. 맥OS 기본 운영체제 점유 몫 4GB를 확보하고 남은 통합 메모리 풀에 온전히 적재되는 모델만 추렸다. 동일한 M6 칩셋에서도 큐웬은 초당 7.8토큰에 그친 반면 젬마 26B는 59.5토큰으로 7배 넘는 속도 격차가 발생한다. 램 용량을 늘려 거대 밀집 모델을 올리는 순간 생성 속도는 급격히 곤두박질친다.
32GB로 램을 늘려도 큐웬 27B가 기어가는 이유
많은 사용자가 “맥미니 램을 32GB나 64GB로 넉넉하게 올리면 AI가 훨씬 쾌적해질 것”이라고 기대한다. 그러나 하드웨어 측정 결과는 정반대의 현실을 드러낸다. 램 용량이 커지면 더 거대한 모델을 메모리에 적재할 수 있을 뿐, 메모리가 초당 데이터를 밀어 넣어 주는 대역폭은 칩셋 한계에 묶여 있기 때문이다.
M6 32GB 구성에서 큐웬3.8-27B(17.44GB)를 구동할 때의 속도는 초당 7.8토큰이다. 한글 기준으로 환산하면 1초에 단어 3~4개를 더듬거리며 출력하는 수준이다. 장문의 보고서나 코드 수백 줄을 생성할 때 체감 대기 시간은 수분에 달하며, 실무에서 자율적으로 돌아가는 에이전트 워크로드를 소화하기에는 턱없이 부족하다.
결국 램 증설이 성능 향상으로 이어지려면 모델 아키텍처가 반드시 MoE 구조여야 한다. 활성 파라미터가 작은 MoE 모델을 올릴 때에만 24GB 이상 맥미니의 대역폭 잠재력이 비로소 폭발한다.
그릇만 키운다고 물이 빨리 쏟아지지 않는다.
애플 ‘AI 연산 4배’ 마케팅의 착시… 프리필과 출력의 분리
입력을 읽어 들이는 속도는 사정이 다르다.
프롬프트 입력을 한꺼번에 연산하는 단계인 프리필(prefill)은 메모리 대역폭이 아닌 연산 코어 성능이 좌우한다. 애플 머신러닝 연구팀 실험에서 M5 맥북 프로의 첫 토큰 생성 시간(TTFT)은 M4 대비 최대 4.06배 단축됐으나 토큰 생성 속도 향상은 19~27% 수준에 머물렀다. 애플이 공시한 ‘M4 대비 AI 성능 최대 4배’라는 문구는 프리필 연산 단계에 국한된 성능 지표이며, 글자를 출력하는 토큰 생성 속도가 4배로 뛴다는 뜻으로 받아들이면 오산이다.
“램 용량이 모델을 담는 그릇이라면, 메모리 대역폭은 글자를 뿜어내는 수도관이다.”
실측 속도의 한계와 손익분기 분석으로 이어지는 관문
하드웨어 실측을 통해 맥미니 12개 구성의 실제 토큰 출력 속도가 명확히 가려졌다. 16GB 구성은 젬마 12B 수준에 갇히고, 32GB 이상에서 밀집 모델을 올리면 초당 7토큰대로 기어가며, 오직 24GB 구성에서 MoE 모델을 결합할 때에만 초당 40~60토큰의 실무 속도가 확보된다.
그렇다면 이 속도로 하루에 몇 시간을 연속 가동해야 비싼 맥미니 기기값과 누진제 전기료를 건질 수 있을까. 최근 클로드 하이쿠 5.5와 GPT-6 루나 등 상용 API 요금이 10분의 1 수준으로 폭락한 환경에서, 로컬 머신의 경제학적 승패는 어디서 갈리는지 본지의 2편 분석에서 이어진다.
M1부터 M5 프로까지 12개 맥미니 구성의 한전 누진제 전기료, 36개월 감가상각, 그리고 상용 API 요금 절감액을 1대1로 대조한 전수 손익분기 시뮬레이션 결과를 공개합니다.
토큰 속도를 아는 것은 로컬 AI 도입의 절반에 불과하며 진짜 청구서는 손익분기표에서 열린다.
