모델에 매우 흥미로운 영향을 미치는 '뉴런'들을 찾았는데... 이들은 결합했을 때 각기 다른 효과를 보여줍니다!

요약

본 글은 모델의 출력에 영향을 미치는 흥미로운 '뉴런'들을 발견했다고 설명합니다. 특히, 개별적으로는 효과가 없는 여러 뉴런(예: 쿠키, 카툰 마스코트)을 조합했을 때 Qwen과 같은 LLM이 특정 페르소나를 갖게 되는 현상을 보여줍니다.

핵심 포인트

• 모델의 출력은 단일 뉴런보다 결합에 의해 결정됨.
• 특정 뉴런 조합이 모델에게 새로운 페르소나(Emergent Behavior)를 부여함.
• Qwen을 쿠키 몬스터처럼 보이게 하는 구체적인 뉴런 조합을 발견함.