이 글은 Amazon EKS 환경에서 vLLM을 사용하여 Gemma 4 모델을 서빙할 때 발생하는 Cold Start 문제를 해결하고 비용을 최적화하는 기술적인 방법을 상세히 설명합니다. 노드 프로비저닝부터 엔진 초기화까지의 과정을 4단계로 나누어 분석하고, Streaming Loader, 컴파일 캐시 영속화, S3 사전 로드, sleep/wake 모드와 같은 최적화 기술을 적용하여 시작 시간을 428초에서 226초로 단축한 사례를 다룹니다. LLM 인프라 운영 및 최적화에 관심 있는 엔지니어분들에게 매우 유용한 정보가 될 것입니다.