KARLA: 언어 모델을 위한 지식 베이스 증강 검색 (Knowledge-base Augmented Retrieval)

요약

LLM이 토큰 생성 과정에서 지식 베이스로부터 사실적 지식을 자동으로 가져올 수 있는 KARLA 방법론을 제안합니다. 특수 토큰을 통해 지식 베이스 쿼리를 트리거함으로써 모델 재학습 없이도 지식 업데이트와 설명 가능성을 확보할 수 있습니다.

핵심 포인트

• 특수 토큰을 활용한 지식 베이스 쿼리 트리거 방식 제안
• 모델 재학습 없이 지식 베이스 편집만으로 사실 관계 업데이트 가능
• 출력 결과에 대한 투명성 및 설명 가능성(Explainability) 향상
• 소형 모델의 사실적 정확도를 대형 모델 수준으로 개선