콘텐츠

GS Neotek의 Claude Code on Amazon Bedrock 도입기: LLM Gateway 없…

역량 개발 · 아마존 코리아 테크 · 2026.08.21

조직에서 Claude Code와 같은 코딩 어시스턴트를 도입할 때 가장 큰 고민 중 하나는 사용자별 비용 관리와 통제입니다. 모든 조직이 복잡하고 유지보수 부담이 큰 LLM Gateway를 도입할 필요는 없습니다. 이 글에서는 Amazon Bedrock의 모델 호출 로그를 활용하여, LLM Gateway 없이도 사용자별 비용을 산출하고 예산을 초과한 사용자를 차단할 수 있는 '경량 아키텍처'를 소개합니다. 핵심 아이디어는 프록시 형태의 LLM Gateway로 모든 요청을 실시간으로 가로채는 대신, Bedrock이 남기는 모델 호출 로그를 주기적으로 집계하여 예산 초과 사용자를 준실시간(near-real-time)으로 사후 차단하는 것입니다. 이를 위해 Bedrock의 로그를 S3에 적재하고, Amazon Athena로 집계하며, AWS Lambda와 DynamoDB를 통해 비용을 계산한 뒤, IAM Identity Center의 Deny 정책을 사용하여 예산 초과자를 차단하는 방식을 제안합니다. 이 아키텍처는 서버리스 구성으로 고정비를 최소화하고 구축이 빠르며, 확장성과 보안성이 뛰어나다는 장점이 있습니다. 실시간 차단에는 약간의 지연이 있을 수 있지만, 중견 규모 조직이나 본격적인 LLM Gateway 도입에 앞서 빠르게 시범 도입을 원하는 팀에게 매우 효율적인 대안이 될 수 있습니다.