콘텐츠

OpenJev: 브라우저 로컬 모델의 확률 산출 방식 비교 실험

시장 인사이트 · GeekNews · 2026.09.18

OpenJev은 브라우저 내 로컬 모델을 사용하여 두 가지 확률 산출 방식인 '직접 판독'과 '생성 방식'을 비교하는 실험 도구입니다. 직접 판독은 선택지 토큰의 logits를 정규화하여 확률을 구하고, 생성 방식은 모델이 추정한 확률을 JSON 형식으로 출력합니다. 이 실험은 백엔드 없이 브라우저 캐시를 활용해 실행되므로 데이터 보안이 뛰어나며, MiniCPM5 2B, Qwen3 0.6B, Qwen3.5 4B 등 다양한 모델을 선택하여 성능과 속도를 테스트해 볼 수 있습니다. quantization 여부에 따라 품질과 속도가 달라질 수 있다는 점을 유의해 주세요.