Epistemic Goggles: 그래디언트 편집(Gradient Editing)을 통해 인식적 프레임(Epistemic Frame)을

요약

언어 모델이 허구 데이터를 학습할 때 발생하는 '부정 무시' 현상을 해결하기 위해, 그래디언트 편집 모듈인 Goggles를 제안합니다. Goggles는 데이터 자체를 수정하는 대신 미세 조정 과정에서 그래디언트를 편집하여 모델이 데이터의 성격(인식적 프레임)을 올바르게 인식하도록 돕습니다.

핵심 포인트

• 허구 데이터 학습 시 모델이 내용을 사실로 믿는 '부정 무시' 현상 발견
• Goggles 모듈을 통해 그래디언트를 편집하여 인식적 프레임 부여
• 허구 식별률을 9%에서 91%로 대폭 향상시키면서 모델 능력 유지
• 지속적인 미세 조정 환경에서도 부여된 프레임이 안정적으로 유지됨