Gevva0: Gemma 26B를 활용한 Jev와 유사한 의사결정 엔진 소개
요약
Gevva0은 Gemma 26B 모델을 활용하여 JevBench 평가 배터리에서 최고 성능을 기록한 의사결정 엔진입니다. 이 엔진은 직접 로짓 스코어링, 순환 디바이어싱, 플랫 온도 보정 등 여러 기술적 기법을 적용해 높은 정확도와 속도를 동시에 달성했습니다.
핵심 포인트
- Gemma 26B 기반의 고성능 의사결정 엔진 소개
- JevBench에서 글로벌 랭킹 1위 성능 입증
- 직접 로짓 스코어링으로 빠른 추론 경로 제공
- 순환 디바이어싱 및 플랫 온도 보정 등 고급 기법 적용
공식 JevBench 평가 배터리에서 Gevva0은 74.63점(글로벌 랭킹 1위)을 기록했으며, 대규모 법률 계약 세트에서 평균 p50 214ms의 속도를 보였고 포렌식 하드 티어에서는 82.9%의 정확도를 달성했습니다.
작동 원리:
- 직접 로짓 스코어링 (Direct Logit Scoring): 컨텍스트를 수집하고 단일 프리필 패스(prefill pass)에서 llm.scores[-1]로부터 의사결정 로짓을 직접 읽습니다. 빠른 경로 해상도는 짧은 컨텍스트에서 22ms로 작동합니다.
- 순환 디바이어싱 (Cyclic Debiasing): 레이블 위치 편향(label position bias)을 중화하기 위해 클래스 토큰을 4개의 순환 위치에 걸쳐 재배열합니다.
- 플랫 온도 보정 (Platt Temperature Calibration): 기대 교정 오차(Expected Calibration Error, ECE)를 0.03 미만으로 낮추기 위해 시그모이드 스케일링을 통해 신뢰도를 조정합니다.
- 비대칭 감사 패스 (Asymmetric Audit Pass): 범주형 판결을 먼저 영구적으로 고정한 다음, 의사결정 로짓을 오염시키지 않으면서 원문 출처 인용문을 검색하기 위해 격리된 추출 패스를 수행합니다.
저장소에는 평가 하네스(evaluation harness), 원시 벤치마크 데이터셋, 그리고 로컬 웹 대시보드가 포함되어 있습니다: https://github.com/solvingSteve/Gevva0
설정 지침과 벤치마크는 README에 있습니다.
현재 데모와 사용 사례를 작업 중이므로 아이디어가 있다면 다음으로 구축해 보겠습니다!
AI 자동 생성 콘텐츠
본 콘텐츠는 Reddit AI Engineering의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기