대규모 언어 모델(LLM)의 암기 완화를 위한 출력 벡터 편집 (Output Vector Editing)

요약

LLM의 데이터 암기 문제를 해결하기 위해 뉴런 활성화 대신 출력 벡터를 수정하는 새로운 편집 방식을 제안합니다. MLP 뉴런의 출력 벡터를 최소한으로 수정하여 잔차 스트림에 대한 기여도를 재지정함으로써, 모델 성능 저하 없이 암기된 시퀀스를 효과적으로 억제합니다.

핵심 포인트

• 뉴런 활성화 제어가 아닌 출력 벡터 편집을 통한 암기 완화 방식 제안
• OLMo-7B 모델에서 암기된 시퀀스에 대해 최대 87.9%의 억제율 달성
• 기존 뉴런 아블레이션 방식보다 2.7배 높은 억제 성능 입증
• 성공률과 국소성 사이의 트레이드오프를 고려한 다양한 편집 모드 제공
• 어텐션 메커니즘을 보완적 백업으로 활용하여 편집 실패 사례 복구 가능