OCC-RAG

요약

OCC-RAG는 0.6B 및 1.7B 규모의 소형 모델을 활용하여 구조화된 추론 흔적과 문자 그대로의 인용을 통해 충실한 질의응답을 수행합니다. 이를 통해 소형 모델임에도 불구하고 32B 규모의 LLM과 대등하거나 이를 능가하는 성능을 보여줍니다.

핵심 포인트

• 0.6B 및 1.7B 소형 모델의 높은 성능 입증
• 구조화된 추론 흔적 및 문자 그대로의 인용 활용
• 보정된 기권(calibrated abstention)을 통한 신뢰도 향상
• 32B LLM 수준의 충실한 질의응답 성능 달성