토스증권 AI 데이터 플랫폼 팀의 ML 엔지니어가 추천 시스템, RAG, 그리고 GraphRAG를 구축하며 마주한 기술적 도전과 해결 방안을 들려드려요. 추천 시스템이 정적인 리스트에서 실시간 이벤트 기반의 루프 구조로 변화하는 과정과, 임베딩 모델 및 벡터 DB 운영 시 고려해야 할 사항들을 상세히 다루고 있어요. 또한, LLM의 답변 품질을 높이기 위한 RAG 플랫폼화 전략과 금융 지식 간의 관계를 탐색하는 GraphRAG 구현 시 겪은 성능 최적화 경험 등 실무적인 인사이트를 가득 담았답니다.