뉴런 약화(Weakening Neurons): 트랜스포머의 입력-출력 기능성 분석

요약

본 논문은 LLM에서 GLU 기반 뉴런의 입력 및 출력 동작을 분석하고, 코사인 유사도를 이용해 '약화 뉴런(weakening neuron)'이라는 개념을 제안합니다. 이 연구를 통해 약화 뉴런이 주로 후기 레이어에 나타나며 모델 동작에 큰 영향을 미치고, 게이트 값이 음수일 때도 강력한 기능성을 가짐을 밝혀냈습니다.

핵심 포인트

• 약화 뉴런은 코사인 유사도를 이용해 정의되며, LLM의 입력-출력 기능을 분석합니다.
• 약화 뉴런은 주로 후기 레이어에 나타나고, 강화 뉴런은 초기-중기 레이어에서 발견됩니다.
• 비록 수가 적지만 약화 뉴런은 모델 동작에 큰 영향을 미치는 중요한 역할을 합니다.