지시어 튜닝된 모델(Instruction-Tuned Models)은 인간보다 인간의 구문(Syntax)을 더 많이 국소적으로 재사용한다
요약
LLM이 인간의 대화 방식처럼 상대방의 문법적 특성에 맞추는 '구문 수렴' 현상을 연구했습니다. Llama와 Gemma 모델을 분석한 결과, 지시어 튜닝된 모델이 사전 학습 모델보다 인간의 구문을 더 많이 재사용하며 높은 의미적 유사성을 보임을 확인했습니다.
핵심 포인트
- LLM이 인간처럼 대화 상대의 문법 구조를 모방하는 구문 수렴 현상을 입증
- 지시어 튜닝(Instruction-tuning)이 모델의 구문 및 의미적 유사성을 높임
- 빈도가 낮은 문법 규칙일수록 실제 대 무작위 차이가 더 크게 나타남
- 지시어 튜닝 모델은 사전 학습 모델보다 인간의 응답과 더 높은 의미적 유사성을 보임
구문 수렴(Syntactic convergence, 화자가 대화 상대방의 문법적 특성에 맞춰 언어를 조정하는 경향)은 인간의 대화에서 잘 기록된 특징이며, 일반적으로 의식적인 인지 아래에서 작동하는 것으로 간주됩니다. 대규모 언어 모델(Large Language Models, LLMs)이 인간 기준점과 비교하여, 그리고 광범위한 구문 구조에 걸쳐 인간 사용자에게 유사한 구문 수렴을 보이는지는 여전히 미해결 과제로 남아 있습니다. 본 연구는 기존의 인간 대화에서 한 화자의 발화를 모델의 생성물로 대체하는 치환 패러다임(substitution-paradigm) 데이터를 사용하여, 16개의 오픈 웨이트(open-weight) Llama 및 Gemma 모델(1B-70B, 사전 학습 및 지시어 튜닝됨)을 대상으로 모델당 1,901개의 매칭된 위치에서 문맥 자유 문법(Context-Free Grammar, CFG) 규칙의 발화 인접 재사용을 측정합니다. 모든 모델은 샘플링된 무관한 인간 프라임(prime)보다 이전의 인간 발화와 더 높은 CFG 규칙 중첩을 보였으며, 모든 모델에서 이러한 실제 대 무작위(actual-versus-random) 차이는 빈도가 낮은 규칙일수록 더 크게 나타났습니다. 또한 각 지시어 튜닝된(instruction-tuned) 모델은 자신이 대체한 인간의 응답보다 실제 프라임과 더 높은 자연 출력(natural-output) 중첩을 보였으며, 매칭된 8개의 아키텍처 쌍 모두에서 지시어 튜닝 후에 실제-프라임 중첩이 더 크게 나타났습니다. 그러나 사전 학습된(pretrained) 변체들과 비교했을 때, 지시어 튜닝된 출력은 무관한 프라임과 더 많이 중첩되었고, 실제 대 무작위 증가폭은 더 작았으며, 목표 규칙 세트 크기가 일정할 때 조건부 규칙 재사용 오즈(conditional rule-reuse odds)는 더 낮았습니다. 탐색적 분석에서 각 모델은 매칭된 인간의 응답보다 이전 발화와 더 높은 평균 어휘적 및 의미적 유사성을 보였습니다. 추가적으로 지시어 튜닝된 모델은 8개의 아키텍처 쌍 모두에서 사전 학습된 모델보다 더 높은 평균 의미적 유사성을 가진 응답을 생성했으나, 어휘적 유사성 결과는 더 이질적이었습니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.CL (NLP)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기