AI 에이전트(Claude Code, Codex 등)가 도입되면서 토큰은 이제 CPU 시간이나 데이터 전송량처럼 중요한 비용 단위가 되었습니다. 이 글에서는 Uber Engineering의 사례를 통해 에이전트가 만들어내는 복잡한 소비 구조를 어떻게 관리하고 최적화할 수 있는지 자세히 설명해 드립니다. 비용 방정식을 활용해 낭비 요인을 분석하는 방법부터 모델 선택, 캐시 관리, 도구 스키마 최적화와 같은 구체적인 해결책까지 폭넓게 다루고 있습니다. 특히 조직의 규모에 따른 단계별 로드맵과 AWS Bedrock를 활용한 측정 파이프라인 구축 방법도 포함되어 있어, AI 도입을 고민하는 엔지니어링 리더와 플랫폼 팀에게 큰 도움이 될 것입니다.