LinkedIn은 전 세계 14억 명의 회원을 지원하기 위해 자체적인 프라이빗 클라우드를 운영하고 있습니다. 이 과정에서 가장 큰 과제 중 하나는 하드웨어 자원을 낭비하지 않으면서도(효율성), 사용자가 불편을 느끼지 않도록 충분한 자원을 확보하는 것(신뢰성) 사이의 균형을 맞추는 일입니다. LinkedIn 엔지니어링 팀은 이 문제를 해결하기 위해 Newsvendor Problem이라는 고전적인 통계 모델을 도입했습니다. 이는 신문 판매업자가 재고를 얼마나 준비할지 결정하는 원리를 응용한 것으로, 수요의 불확실성과 부족/과잉 시 발생하는 비용을 계산하여 최적의 버퍼(Headroom)를 산출하는 방식입니다. 이러한 데이터 기반의 접근 방식을 통해 LinkedIn은 Stream-processing 플랫폼의 버퍼를 약 8.5% 절감하는 성과를 거두었으며, 이는 AI 수요 급증으로 인한 하드웨어 비용 상승 시대에 매우 중요한 경쟁력이 되고 있습니다. 데이터 과학자와 엔지니어의 협업이 어떻게 실질적인 인프라 혁신을 이끌어낼 수 있는지 보여주는 좋은 사례입니다.