← 모든 용어VRAMGPU의 비디오 메모리. 추론 중 모델 가중치·KV 캐시·활성화가 사는 공간.VRAM은 시스템 RAM과 별도의 전용 GPU 메모리. NVIDIA 소비자 카드는 8-32GB. 데이터센터는 192GB까지. AMD MI300X도 192GB. 애플 실리콘은 별도 VRAM 없이 통합 메모리를 GPU가 약 75% 사용. LLM 추론에선 VRAM 클수록 큰 모델·긴 컨텍스트·큰 배치 가능.관련 용어KV 캐시통합 메모리