데이터 분석가가 직접 정의, 배포, 관리하는 뱅크샐러드 데이터 파이프라인
역량 개발 · 뱅크샐러드 테크 · 2023.06.05
뱅크샐러드에서는 데이터 엔지니어의 업무 병목 현상을 해결하기 위해, 데이터 분석가가 직접 데이터 파이프라인을 정의하고 배포할 수 있는 'datapipe' 프로젝트를 도입했습니다. 기존에는 새로운 데이터 테이블이 필요할 때마다 데이터 엔지니어링 팀에 요청하고 협업해야 하는 복잡한 과정이 있었지만, 이제는 분석가가 비즈니스 로직에만 집중하여 스스로 파이프라인을 구축할 수 있게 되었습니다. 이를 위해 인프라를 추상화하여 복잡한 코드를 최소화하고, Slack ChatOps를 통한 배포 방식과 Fusion Auth 기반의 권한 관리 시스템을 구축했습니다. 또한, PR 생성 시 자동으로 테스트 서버를 띄워주는 기능과 pytest 기반의 유닛 테스트, 그리고 데이터 퀄리티 체크 기능까지 통합하여 안정성을 확보했습니다. 그 결과 분석가들의 직접적인 파이프라인 운영 건수가 이전보다 6배 이상 증가하며, 엔지니어들은 더욱 핵심적인 인프라 고도화에 집중할 수 있게 되었습니다.