Needle 3는 스마트폰, 웨어러블, 로봇과 같은 소형 기기에서 자연어를 실행 명령으로 변환해주는 초소형 AI 모델입니다. 8~29MB라는 매우 작은 크기로 설계되어, 클라우드 연결 없이도 기기 내부에서 오프라인으로 동작하며 스마트홈 제어나 앱 조작 등을 수행할 수 있습니다. 이 모델은 Intelligence laddering 기술을 활용해 기기의 성능에 맞춰 2개에서 20개의 층(layer) 중 필요한 깊이를 선택할 수 있어, 연산 효율성을 극대화합니다. 특히 특정 작업에 맞춰 미세 조정(Fine-tuning)할 경우, DeepSeek V4 Flash와 같은 대형 모델보다 뛰어난 도구 호출(Tool calling) 성능을 보여주기도 합니다. 개발자들은 Python API를 통해 간편하게 모델을 활용할 수 있으며, Cactus Platform을 이용해 데이터 관리부터 미세 조정, 배포까지 전 과정을 지원받을 수 있습니다. 온디바이스 AI 기술의 새로운 가능성을 보여주는 Needle 3에 대해 알아보세요!