Voice to Voice (Speech LM) (신입·박사+)

Voice Recognition(성문인증, 화자분리) (신입·박사+)

실시간(스트리밍) 화자분할 및 다화자 오프라인 화자분할(End-to-End·클러스터링 하이브리드) 모델 연구/개발
화자 임베딩(ECAPA-TDNN, SSL 기반 등) 및 성문인증(화자검증·식별), 위변조(Deepfake)탐지 모델(Anti-Spoofing) 개발
잡음·원거리·중첩 발화 데이터 구축 및 DER·EER 기반 성능 개선
실시간 스트리밍 화자분할·성문인증 기능의 서비스 개발 및 적용

LLM 요청 별 최적 모델과 inference budget을 선택하는 adaptive routing system 개발
자연어/소형 언어모델을 이용해 요청의 Task, 난이도, 모델별 성공확률, 예상 비용 및 불확실성을 추정하고 라우팅하는 모델 라우터 개발
Contextual Bandit과 Off-Policy Evaluation을 통해 피드백 기반라우팅 정책이 지속 개선되는 Flywheel 구조 적용

LLM의 품질 저하를 최소화하면서 추론 효율을 향상시키기 위해 Pruning, Knowledge Distillation, Quantization 등 모델 압축(Model Compression) 기술을 연구·개발하고 적용합니다.
Speculative Decoding, KV Cache 최적화 등 최신 추론 가속(Inference Optimization) 기술을 연구하고, 실제 서비스 환경에 적합한 최적화 방안을 설계·검증합니다.
Dense·MoE 기반 대규모 언어모델(LLM)과 장문 컨텍스트, 멀티모달, Agent 워크로드 환경에서 모델 성능과 효율을 개선하기 위한 최적화 기법을 연구·개발합니다.
vLLM, SGLang, TensorRT-LLM 등 서빙 프레임워크를 활용하여 최적의 모델 서빙 아키텍처를 설계하고 성능을 튜닝합니다.
모델 압축 및 추론 최적화 전후의 품질, 응답 지연시간(Latency), 처리량(Throughput), 메모리 사용량, GPU 활용률 및 비용 효율을 측정·분석하기 위한 벤치마크 및 평가 체계를 구축합니다.
모델 압축 및 추론 최적화 기술의 토큰당 비용 절감 효과와 서비스 적용 가치를 정량적으로 검증하고, 연구 결과를 기술 문서화합니다.
모델 서빙·MLOps 엔지니어 및 AI 연구조직과 협업하여 연구 결과를 대규모 GPU 환경에서 검증하고 실제 AI 서비스에 적용합니다.