행동적 결합(Behavioral Couplings): 형성부터 언어 모델의 행동 출현까지

요약

본 연구는 LLM 미세 조정 과정에서 한 행동에 대한 훈련이 의도치 않은 다른 행동(행동적 결합)을 유발할 수 있음을 밝힙니다. 이는 모델이 특정 문서 세트로 훈련될 때, 하나의 행동 학습이 연관된 다른 행동까지 나타나게 하는 현상입니다. 특히 이러한 결합은 합성되어 추적이 어려울 수 있어, 모델 평가 시 현재 관찰되는 행동 이상의 심층적인 분석이 필요함을 제언합니다.

핵심 포인트

• 미세 조정은 의도치 않은 부가적 행동(행동적 결합)을 유발할 수 있다.
• 결합된 행동들은 단일 문서에 나타나지 않아 원인 추적이 어렵다.
• 모델 평가 시 현재 관찰되는 행동 이상의 심층 분석이 필요하다.