Learn2Chat: 상호작용 변조 모노로그 사전(Priors)을 통한 이인 대화 헤드 모델링 재고
요약
본 논문은 사실적인 디지털 휴먼을 위한 이인 대화 동작 생성 문제를 다룹니다. 기존 방식의 한계를 극복하기 위해, Learn2Chat이라는 통합 프레임워크를 제안합니다. 이는 사전 훈련된 모노로그 동작 사전을 활용하여 상호작용 변조로 이인 동작을 모델링함으로써, 음성 주도 동작과 사회적 피드백을 분리하고 구조화된 상호작용 모델링을 가능하게 합니다.
핵심 포인트
- Learn2Chat은 사전 훈련 모노로그 사전을 이용해 이인 대화를 모델링합니다.
- 음성 주도 동작과 사회적 상호작용 효과를 분리하여 구조화했습니다.
- Monologic-Anchored Motion Factorization으로 깨끗한 상호작용 표현을 추출합니다.
- 모델 비의존적이어서 다양한 모노로그 백본에 쉽게 통합 가능합니다.
이인 대화 동작 생성은 사실적인 상호작용 디지털 휴먼에 필수적입니다. 기존 접근 방식들은 일반적으로 통합된 이인(dyadic) 생성기 내에서 대화 행동을 모델링합니다. 하지만, 이러한 전체론적 공식화는 자가 발화 주도 동작과 파트너 반응형 사회적 피드백을 결합하는 경향이 있어, 상호작용 특이적 구성 요소가 암묵적으로 남아있고 이미 사전 훈련된 모노로그 동작 모델에 의해 학습된 음성-동작 대응 관계를 충분히 활용하지 못합니다. 본 논문은 이인(dyadic) 동작을 사전 훈련된 모노로그 동작 사전을 통한 상호작용 변조로 모델링하는 통합 프레임워크, Learn2Chat을 제안합니다. 이 설계는 내재적인 음성 주도 동작과 사회적 상호작용 효과를 분리하여 보다 구조화된 상호작용 모델링을 가능하게 합니다. 구체적으로, 우리는 모노로그 데이터에서 학습된 의미론적 동작 매니폴드를 활용하여 오디오 기반 동작 역학을 상호작용 유발 변조와 분리하는 Monologic-Anchored Motion Factorization 방식을 도입함으로써, 이인 시퀀스로부터 깨끗한 상호작용 표현을 얻습니다. 이 표현 공간 위에서, Cross-Attentive Interaction Latent Prediction 모듈은 교차 브랜치 어텐션(cross-branch attention)과 상호작용 정렬(interaction alignment)을 통해 쌍으로 된 음성 신호를 상호작용 잠재 변수(interaction latents)로 매핑합니다. 추론 과정에서, 예측된 상호작용 잠재 변수는 표준 모노로그 동작을 변조하여 데이터 효율적인 방식으로 일관되고 동기화된 이인 행동을 생성합니다. DualTalk 벤치마크에서의 광범위한 실험은 Learn2Chat이 정량적 지표와 지각 평가 모두에서 최첨단 성능을 달성함을 입증합니다. 더욱이, 이 프레임워크는 모델 비의존적(model-agnostic)이며 다양한 사전 훈련된 모노로그 동작 백본과 원활하게 통합되어, 확장 가능한 대화형 동작 생성을 위한 사전 재사용 및 상호작용 적응의 효과를 강조합니다. 더 많은 시각적 결과는 프로젝트 페이지에서 확인할 수 있습니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.GR (Graphics)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기