소형 LLM 검증에서 효과적이었던 것은 의미 선택과 모든 단서를 통합하는 학습이었습니다 (E11~E14)

요약

본 기사는 Gemma-2 2B와 같은 소형 LLM의 답변을 외부 부품이나 구조화된 지식 체인으로 검증하는 연구 결과를 다룹니다. 실험 결과, '의미 선택' 능력이 대규모 문제에서도 유지되었으며(80.9%), 모든 단서를 하나의 학습 구조로 통합했을 때 오류율이 크게 감소함을 입증했습니다.

핵심 포인트

• 의미 선택 능력은 34,402문제에서 80.9%를 기록하며 단순 암기가 아님을 확인했습니다.
• 모든 단서를 하나의 학습 구조로 통합하는 것이 효과적이었으며, 오류율이 크게 감소했습니다.
• 사전(dictionary)의 사슬과 같은 외부 검증 메커니즘은 LLM 답변 검증에 유효함을 보여주었습니다.