비디오 수준의 양가감정 및 망설임 인식을 위한 상호작용 스트림 기반 지식 유도 멀티모달 추론
요약
PRISM-AH는 비디오 내 얼굴, 음성, 언어 간의 불일치를 통해 양가감정과 망설임을 인식하는 멀티모달 추론 프레임워크입니다. 경량 스트리밍 모델과 LLM의 지식 유도 추론을 결합하여 기존 제로샷 모델 대비 성능을 크게 향상시켰습니다.
핵심 포인트
- 멀티모달 간의 불협화음을 활용한 양가감정 인식 프레임워크 제안
- 경량 스트리밍 모델과 LLM을 결합한 지식 유도 추론 방식 적용
- 기존 제로샷 베이스라인(0.2827) 대비 macro F1 0.6133 달성
- 시각, 오디오, 텍스트 인코더를 활용한 교차 양상 불협화음 점수화
양가감정 및 망설임 (Ambivalence and hesitancy, A/H)은 건강 행동 변화의 지연 또는 포기에 앞서 나타나는 상충하는 정서적 상태입니다. A/H를 비디오 수준에서 인식하는 것은 어려운데, 이는 신호가 얼굴, 음성, 언어 및 신체적 양상 (modalities) 간의 불일치와 양상 내부의 불일치로부터 발생하며, 개인마다 다르게 나타나기 때문입니다. 제안된 PRISM-AH (Predictive Reasoning over Interacting Streams for Multimodal Ambivalence/Hesitancy Recognition)는 A/H를 시간에 따라 전개되는 멀티모달 충돌로 취급하는 프레임워크입니다. 동결된 (Frozen) 시각, 오디오 및 텍스트 인코더는 짧은 시간 창 (time windows)으로 정렬되어 경량 스트리밍 모델로 전달됩니다. 이 모델은 교차 양상 불협화음 (cross-modal dissonance)을 점수화하고, 망설임 놀람 신호 (hesitation surprise signal)를 드러내기 위해 각 다음 창을 예측하며, 행동 프로토타입을 발견하고, 참가자 메타데이터를 조건으로 합니다. 밀집된 창 수준 주석 (Dense window-level annotations)이 보조 목적 함수로서 모델을 감독하며, 결정 임계값은 macro F1을 위해 보정됩니다. 그 후 지식 유도 대규모 언어 모델 (Large Language Model, LLM)이 데이터셋의 전문가 큐 분류 체계 (expert cue taxonomy)를 사용하여 구조화된 증거를 바탕으로 추론하며, 검증 성능이 향상될 때만 그 판결이 후기 결합 (late fusion)됩니다. 525개의 비디오로 구성된 라벨링된 공개 테스트 파티션에서 PRISM-AH는 보고된 제로샷 (zero-shot) 베이스라인인 0.2827과 비교하여 0.6133의 macro F1을 달성했습니다. 이러한 추론 이득은 검증 세트에서 더 큰 테스트 파티션으로 전이됨이 확인되었습니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.AI의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기