NVIDIA가 agentic AI 워크로드를 위한 고효율 모델인 Nemotron 3.5 Lightning과 스마트 라우팅을 지원하는 오픈 소스 라이브러리 NeMo Switchyard를 발표했습니다. Nemotron 3.5 Lightning은 30-billion-parameter mixture-of-experts 모델로, 기존 모델 대비 최대 4배 빠른 출력 속도를 제공하며 특정 작업에 맞춰 커스터마이징이 가능합니다. 또한 NeMo Switchyard를 통해 개발자들은 애플리케이션 수정 없이도 각 작업에 가장 적합한 모델로 요청을 자동 라우팅하여 비용과 효율성을 극대화할 수 있습니다. 이 기술들은 PC부터 클라우드까지 다양한 환경에서 AI 에이전트의 성능을 높이는 데 기여할 것으로 기대됩니다.