Real-SWE: 비공개 실무 기업 코드베이스에서 AI 모델을 평가하는 벤치마크
시장 인사이트 · GeekNews · 2026.09.13
소프트웨어 엔지니어링 분야의 AI 기술 트렌드를 알고 싶다면 주목해 주세요! Real-SWE는 실제 기업의 비공개 프로덕션 코드베이스와 업무를 바탕으로, AI 코딩 에이전트가 소프트웨어 엔지니어의 실무를 얼마나 잘 수행할 수 있는지 평가하는 벤치마크입니다. 단순히 코드 작성 능력을 넘어, 기업 고유의 업무 규칙과 기존 구현 방식을 찾아내는 능력을 중점적으로 테스트합니다. 실험 결과, Fable 5.1과 Claude Code 조합이 가장 높은 해결률을 기록했지만, 여전히 요구사항 누락이나 복잡한 로직 이해에서 한계를 보였습니다. 특히 10분 미만의 짧은 실행에서는 실패율이 매우 높았으며, 모델에 따라 실행 1회당 약 2.50~6.96달러의 비용이 발생하는 것으로 나타났습니다. AI가 실제 엔지니어의 업무를 어디까지 대체할 수 있을지를 가늠해 볼 수 있는 매우 중요한 지표가 될 것입니다.