로컬 LLM에 맥 스튜디오 M4 Ultra vs RTX 4090
같은 질문에 대한 매우 다른 두 답. 메모리 크기 vs 속도.
맥 스튜디오 M4 Ultra 256GB는 GPU에 약 192GB 통합 메모리 1092GB/s 노출. RTX 4090은 24GB 1008GB/s.
7B-13B는 4090이 훨씬 빠름, tok/s 2-3배. 24GB에 안 들어가는 모델(70B, 405B, DeepSeek V3)은 맥이 유일한 단일 머신 답.
전력: 맥 추론 30-100W, 4090만 400W+. 소음: 맥 무음, 타워 4090 시끄러움.
1인·작은 모델·최고 속도면 4090. NVIDIA 소비자가 못 담는 모델을 조용한 책상에서면 맥. 다른 도구, 다른 작업.