콘텐츠

RAG와 LLM을 활용한 사내 Slackbot 구축 사례

스토리 · 벤츨링 테크 · 2024.12.14

Benchling 엔지니어링 팀이 Terraform Cloud 관련 질문에 자동으로 답변해주는 Slackbot을 어떻게 구축했는지 소개하는 글입니다. 기존에는 20페이지에 달하는 FAQ나 복잡한 Slack 스레드에서 정보를 찾는 데 어려움이 있었는데요, 이를 해결하기 위해 Retrieval-Augmented Generation (RAG) 기술과 Amazon Bedrock을 활용했습니다. Confluence, 웹 문서, Slack 대화 기록 등을 데이터 소스로 사용하여 Claude 3.5 Sonnet v2 모델이 정확한 답변을 생성하도록 구현했습니다. 이 사례는 기업 내의 방대한 지식을 효율적으로 활용할 수 있는 LLM 기반 도구 개발의 좋은 가이드가 될 것입니다.