Vercel에서 CDN의 metadata 조회 지연 시간을 91%나 줄인 기술적 성과를 소개합니다. 기존에는 모든 request가 CDN을 통과할 때 metadata를 하나씩 가져와 cache에 저장했는데, 대규모 배포가 빈번한 사이트의 경우 수많은 경로 때문에 cache miss가 반복적으로 발생하며 지연 시간이 길어지는 문제가 있었습니다. 이를 해결하기 위해 Vercel은 metadata를 'shards'라는 단위로 그룹화하여 한 번의 fetch로 여러 경로의 데이터를 cache에 채울 수 있도록 개선했습니다. 또한 JSONL 레이아웃과 인덱스를 도입하여, 전체 데이터를 parsing하지 않고도 binary search를 통해 필요한 metadata만 빠르게 찾을 수 있도록 설계했습니다. 그 결과 P99 지연 시간이 91% 감소하는 놀라운 성과를 거두었으며, build 단계에서도 약 16.6초의 시간을 단축하여 전체적인 deployment 속도를 향상시켰습니다.