GitHub Copilot 팀은 AI coding agents의 작업 품질을 유지하면서도 비용 효율성을 높이기 위한 최적화 전략을 공유했습니다. 단순히 개별 도구 호출의 token count를 줄이는 것이 아니라, 전체 task의 결과를 최적화하는 데 집중했는데요. 주요 전략으로는 반복적인 노이즈를 선택적으로 압축하고, 불필요한 포맷팅을 제거하며, 의도를 유지하면서 프롬프트를 압축하는 방법 등이 있습니다. 또한 백그라운드 작업 결과를 직접 전달하여 불필요한 retrieval 단계를 줄이는 방식도 도입되었습니다. 이러한 개선은 모델의 지능을 높이는 것이 아니라, 모델이 수행하던 불필요한 작업을 제거함으로써 효율성을 극대화하는 데 목적이 있습니다.