Amazon Bedrock 앞에 LiteLLM과 같은 LLM 게이트웨이를 도입할 때 발생하는 사각지대, 즉 호출자 신원 불분명 및 모델별 관측성 저하 문제를 해결하는 방법을 다루고 있습니다. X-Amzn-Bedrock-Request-Metadata 헤더를 통해 호출자 정보를 Bedrock 로그에 주입하여 감사 추적을 가능하게 하고, Application Inference Profile을 활용해 모델별 사용량과 성능을 CloudWatch에서 모니터링하는 아키텍처를 제안합니다. 또한 Virtual Key 기반의 예산 통제와 IAM Identity Center를 통한 자동 온보딩, 그리고 보안을 위한 VPC 설계 및 운영 노하우까지 상세히 설명하고 있습니다.