BC카드가 AI 모델의 크기를 줄이면서도 성능 저하를 최소화하는 ‘양자화’ 기술을 개발하여 실제 업무에 적용했다는 소식입니다. 이 기술을 통해 모델 용량을 약 69% 줄였음에도 불구하고, 한국어 이해 및 추론 성능은 원본의 98.7% 수준을 유지하며 처리 속도는 약 2.6배 향상시키는 성과를 거두었습니다. 이를 통해 GPU 투자 비용을 절감하고 데이터 보안성도 높일 수 있게 되었는데요, BC카드는 이번 기술에 대한 특허 출원도 진행하며 더욱 효율적인 AI 활용 환경을 만들어가고 있습니다.