AI 에이전트가 더욱 자율적으로 발전함에 따라, 이제는 코드의 오류보다는 에이전트의 '행동'에서 발생하는 보안 리스크를 관리하는 것이 매우 중요해졌습니다. Google은 이러한 문제를 해결하기 위해 Gemini Enterprise Agent Platform에서 'Agent Anomaly Detection'을 Private Preview로 출시했습니다. 이 기능은 에이전트의 reasoning traces, tool calls, execution flow를 분석하여 의도하지 않은 행동이나 정책 위반을 찾아내는 reasoning-based oversight layer 역할을 수행합니다. 특히 OWASP Agentic Top 10 리스크를 기반으로 설계되었으며, 비동기 방식으로 작동하여 에이전트의 응답 속도에 영향을 주지 않는다는 장점이 있습니다.