Google에서 웹 브라우저 내에서 AI를 직접 실행할 수 있는 JavaScript 바인딩인 LiteRT.js를 발표했습니다! 기존의 TensorFlow.js보다 향상된 성능을 제공하는 LiteRT.js는 .tflite 모델을 웹 환경에서 로컬로 실행할 수 있게 해줍니다. 이를 통해 사용자 개인정보 보호를 강화하고, 서버 비용을 절감하며, 실시간 경험을 위한 초저지연성을 확보할 수 있습니다. 특히 WebAssembly를 통해 CPU(XNNPACK), GPU(ML Drift/WebGPU), 그리고 향후 NPU(WebNN)와 같은 하드웨어 가속을 직접 활용할 수 있어 기존 솔루션 대비 최대 3배 빠른 성능을 보여줍니다. PyTorch 모델의 간편한 변환과 맞춤형 quantization 기능도 지원하여 개발자들이 더욱 효율적으로 Web AI를 구현할 수 있도록 돕습니다.