에스디바이오센서(SD Biosensor)가 AWS 3A 프로그램을 통해 생성형 AI 에이전트를 실제 서비스(Production) 환경에 적용하며 겪은 기술적 도전과 해결 과정을 소개합니다. 초기 프로토타입 단계에서 발생했던 결과의 재현성 문제, 모델 호출에 따른 지연 및 비용 증가, 그리고 운영 중 발생하는 문제를 추적하기 어려운 관측성 부족 문제를 해결하는 데 초점을 맞추었습니다. 주요 개선 사항으로는 첫째, 멀티 에이전트 구조를 단일 에이전트로 단순화하고 결정론적인 계산은 코드로 구현하여 결과의 일관성을 확보했습니다. 둘째, 작업의 성격에 따라 Code Interpreter와 SageMaker Processing 등으로 실행 레인을 분리하여 효율적인 리소스 관리를 구현했습니다. 셋째, OpenTelemetry 표준을 활용한 관측성 체계를 구축하여 에이전트의 실행 흐름을 투명하게 관리할 수 있도록 했습니다. 이 사례는 AI 에이전트를 실험 단계를 넘어 실제 비즈니스 워크플로우에 안정적으로 통합하고자 하는 개발자분들에게 유용한 아키텍처 패턴을 제공합니다.