실리콘투는 사내 곳곳에 흩어져 있는 방대한 업무 지식(Stored Procedure, 소스 코드, 문서 등)을 AI가 신뢰할 수 있는 하나의 체계로 통합하기 위해 'S2 Domain Knowledge Gateway'를 구축했습니다. 이 시스템은 MCP(Model Context Protocol)를 기반으로 설계되었으며, 보안을 최우선으로 하여 검색이 시작되기 전 단계에서 권한을 제어하고 데이터 유출(egress 0)을 방지하는 강력한 보안 계층을 갖추고 있습니다. 구축 과정은 매우 전략적이었습니다. 초기에는 비용 효율성을 극대화하기 위해 온프레미스 환경에서 임베디드 방식으로 프로토타입을 빠르게 구현하였고, 이후 사내 공용 플랫폼으로서의 가치를 인정받은 뒤 AWS 관리형 서비스(RDS PostgreSQL, ECS Fargate 등)로 성공적으로 확장 및 이전하였습니다. 기술적으로는 BM25(키워드 검색)와 벡터 검색을 결합한 하이브리드 검색 방식에 RRF(Reciprocal Rank Fusion)를 적용하여 높은 검색 정확도를 확보하였으며, 현재는 Slack 챗봇과 다양한 사내 AI 에이전트가 이 게이트웨이를 통해 최신 지식을 조회하고 있습니다. 이번 사례는 보안과 비용 효율성을 동시에 잡으며 어떻게 AI 기반의 지식 토대를 구축할 수 있는지에 대한 좋은 이정표를 제시합니다.