인프랩의 데브옵스 엔지니어가 사내 해커톤에서 시작해 정식 서비스로 안착시킨 'AI 자막 생성 기능'의 구현 과정을 소개해 드립니다. 초기에는 Whisper와 whisper.cpp 등을 검토하며 속도와 비용 문제를 해결하기 위해 많은 고민을 했다고 해요. 특히 자막 싱크 이슈, AWS 인프라에서의 실행 문제, 한국어 가독성 문제를 해결하는 과정이 매우 흥미롭습니다. 최종적으로는 WhisperX와 AWS의 g5.xlarge GPU 인스턴스를 조합하여, 기존 대비 70배 빠른 속도와 API 대비 10배 이상의 비용 절감 효과를 거두는 데 성공했습니다! AWS Batch와 Spot Instance를 활용한 인프라 구축 과정과, 빠른 대응을 가능하게 했던 IaC의 중요성을 엿볼 수 있는 아주 값진 경험담입니다.