320B '옥스 알파'를 PC서 구동…'GLM-5.3-플래시' 용량 81% 줄여
시장 인사이트 · AI TIMES · 2026.08.29
지푸 AI(Z.ai)의 최신 모델인 GLM-5.3-플래시를 이제 일반적인 고사양 PC에서도 직접 구동할 수 있게 되었다는 소식입니다! AI 오픈소스 프레임워크인 Unsloth가 3비트 GGUF 버전을 출시하며 모델 용량을 원본 대비 약 81%나 줄였기 때문인데요. 덕분에 128GB RAM을 갖춘 PC에서도 모델 전체를 올려 실행할 수 있게 되었습니다. 특히 Unsloth의 '다이내믹 v3.0' 양자화 기법을 통해 성능 저하를 최소화하면서도 효율성을 극대화한 점이 인상적입니다. 대규모 모델의 로컬 실행 환경이 빠르게 발전하고 있음을 보여주는 사례입니다.