DPN-LE: 대규모 언어 모델용 듀얼 페르소나 뉴런 로컬라이제이션 및 편집

요약

본 연구는 대규모 언어 모델(LLMs)의 페르소나 표현 메커니즘을 이해하고, 성능 저하 없이 특정 페르소나를 편집하는 새로운 방법을 제안합니다. 기존 뉴런 편집 방식은 많은 뉴런 변경이 필요하여 전반적인 성능 저하를 초래한다는 한계가 있습니다. 연구진은 고-속성 및 저-속성 샘플 간의 MLP 활성화 대비 분석을 통해, 페르소나에 특화된 뉴런을 식별하는 DPN-LE(Dual Personality Neuron Localization and Editing) 기법을 개발했습니다. 이 방법은 적은 수의 뉴런만 개입하여 정밀한 페르소나 제어와 우수한 능력 보존을 동시에 달성합니다.

핵심 포인트

• 기존 LLM 페르소나 편집 방식은 광범위한 뉴런 변경이 필요해 전반적인 성능 저하를 초래하는 문제가 있습니다.
• 뉴런들은 다기능적이며, 특정 페르소나 속성은 명확하게 상호 배타적인 표현 패턴을 보입니다.
• DPN-LE는 고/저-속성 샘플 간의 MLP 활성화 대비 분석을 통해 페르소나 특이 뉴런을 식별합니다.
• Cohen's d 효과 크기와 활성화 크기 기반의 이중 필터링으로 상호 배타적인 뉴런 하위 집합을 격리할 수 있습니다.
• DPN-LE는 전체 뉴런 중 극히 일부(약 0.5%)만 개입하여 정밀한 페르소나 제어와 높은 능력 보존을 동시에 달성합니다.