Qwen3.8 27B 모델의 양자화(Quantization) 성능을 분석한 결과입니다. 4비트 양자화를 적용하면 모델 크기를 17GB까지 줄이면서도 GPQA Diamond, IFBench, Terminal-Bench 2.1 평가에서 원본과 유사한 성능을 유지할 수 있어, RTX 4090 같은 소비자용 GPU에서도 효율적으로 사용할 수 있습니다. 반면, 2비트는 일부 성능 저하가 나타나고, 1비트 모델은 과학 문제에서 무작위 추측 수준으로 성능이 급격히 떨어지는 양상을 보였습니다. 따라서 로컬 환경에서 모델을 실행할 때는 단순히 크기만 볼 것이 아니라, 실제 작업 성능과 필요한 컨텍스트를 담을 수 있는 GPU 메모리 용량을 함께 고려하는 것이 중요합니다.