감정 대화 컨텍스트에서의 대규모 언어 모델의 감정 일관성 분석

요약

본 연구는 감정 기반 대화 상황에서 대규모 언어 모델(LLMs)이 생성하는 응답의 감정 일관성을 분석했습니다. LLM은 잘못된 가정(false presuppositions)을 포함하는 쿼리에 대해 평균 이하의 성능을 보였으며, 특히 중간 정도의 감정 콘텐츠에서 취약성이 두드러졌습니다. 이 결과는 LLMs가 고위험이거나 감정적으로 민감한 컨텍스트에 배포되기 전에 중요한 고려사항이 필요함을 시사합니다.

핵심 포인트

• LLM은 잘못된 가정(false presuppositions)을 포함하는 쿼리에 대해 전반적으로 낮은 성능을 보였다.
• 모델의 감정적 취약성은 특히 '중간' 강도의 감정 콘텐츠에서 가장 두드러지게 나타났다.
• 분석 결과는 LLM이 단순한 생성(generative) 단계를 넘어 평가적(evaluative) 판단을 수행하는 과정에 민감성을 보임을 강조한다.
• LLMs를 고위험 또는 감정적으로 민감한 대화 컨텍스트에 배포할 때는 신중한 접근과 추가적인 검증이 필수적이다.