LLM은 똑똑한데, 왜 우리 회사 일은 모를까
시장 인사이트 · 토스 테크 · 2026.07.30
요즘 LLM은 공개된 지식에는 능숙하지만, 사내의 복잡하고 흩어진 정보를 정확히 파악하는 데는 어려움을 겪고 있습니다. 문서, 코드, 메신저 로그 사이의 정보 불일치와 최신성 문제 때문인데요. Toss는 이를 해결하기 위해 'Topic'이라는 시스템을 구축했습니다. Topic은 단순히 정보를 검색하는 것을 넘어, 정보의 출처, 관계, 최신성, 충돌 상태를 관리하여 LLM이 신뢰할 수 있는 컨텍스트를 제공합니다. Granularity, Faithfulness 등 6가지 축을 통해 데이터의 품질을 관리하며, 문서와 코드 사이의 관계를 정의하여 LLM 에이전트가 더 정확한 답변을 내놓을 수 있도록 돕는 '신뢰 가능한 컨텍스트 레이어' 역할을 수행합니다.