Spark on Kubernetes로 가자!
스토리 · 뱅크샐러드 테크 · 2023.01.05
뱅크샐러드 Data Platform 팀이 기존 AWS EMR, YARN 기반의 Spark 환경에서 Self-hosted Kubernetes 기반으로 컴퓨팅 환경을 이전하며 겪은 기술적 도전과 해결 과정을 소개합니다. EMR 운영 중 발생했던 인스턴스 부족, autoscaling 문제, 그리고 사내 기술 지원의 한계 등을 극복하기 위해 Kubernetes를 선택했으며, Glue 메타스토어 연동 및 S3 성능 최적화를 위한 Magic committer 설정 등 구체적인 기술 구현 사례를 다룹니다. 결과적으로 피크 시간대 비용을 약 45% 절감하는 성과를 거두었으며, 향후 observability 개선 및 리소스 최적화에 대한 계획도 공유하고 있습니다.