누가 감정의 의미를 결정하는가? 측정 한계의 인식론적 결과로서의 정동적 주권 (Affective Sovereignty)
요약
감정 감지 AI가 확산됨에 따라 발생하는 '인식론적 격차'와 감정 해석의 주권 문제를 다룹니다. AI의 측정 한계로 인해 발생하는 의미의 불확실성을 분석하고, 감정의 최종 해석 권한이 주체에게 있어야 한다는 '정동적 주권' 개념을 제안합니다.
핵심 포인트
- 감정 AI의 측정 한계로 인한 인식론적 격차 발생
- AI의 높은 신뢰도가 감정의 진정한 의미 회복을 보장하지 않음
- 감정 해석의 최종 권한은 경험하는 주체에게 유보되어야 함
- AI 설계 시 정확도 극대화보다 해석 권한 할당이 중요함
감정 감지 AI (Emotion-sensing AI)는 차량, 가전제품, 대화형 에이전트(dialogue agents), 그리고 사회적 인프라에 빠르게 내장되고 있으며, 이는 감정이 더 이상 개인의 경험에 국한되지 않고 사회적 규모에서 관찰되고 계산되는 영역, 즉 우리가 '정동권 (Affectosphere)'이라 명명한 영역을 탄생시키고 있습니다. 그러나 이 영역에서의 핵심적인 규범적 질문은 그동안 충분히 탐구되지 않았습니다: 자신의 감정이 갖는 의미를 결정할 최종 권한은 누구에게 있는가? 본 연구는 측정의 구조적 한계라는 인식론적 (epistemological) 측면에서 이 질문을 다룹니다. 우리는 의미 분포 (meaning distribution)를 고정된 주석 프로토콜 (annotation protocol) 하에서 모집단으로부터 추출된 주석가(annotators)들이 할당한 레이블의 분포로 정의하며, 그 불확실성을 줄일 수 있는 성분 (reducible component)과 줄일 수 없는 성분 (irreducible component)으로 분해합니다. 그런 다음, 감정 AI가 높은 신뢰도의 점 레이블 (point labels)을 할당하고 집계 수준 (aggregate level)에서 실제적인 차이를 식별할 수는 있지만, 개별 사례에 대한 의미 분포의 줄일 수 없는 성분은 현실적인 주석가 수 하에서 적절한 커버리지로 추정될 수 없음을 입증하며, 이러한 체계적 괴리를 우리는 '인식론적 격차 (epistemic gap)'라고 부릅니다. 핵심적인 발견은 장치의 높은 신뢰도가 회복 불가능한 의미가 회복되었다는 증거가 되지 못한다는 점입니다. 이러한 인식론적 격차로부터, 그리고 '원칙적으로 어떤 양을 회복할 수 없는 시스템의 출력은 그것의 권위 있는 결정으로 취급되어서는 안 된다'는 명시적으로 진술된 규범적 전제와 결합하여, 우리는 자신의 감정의 의미에 대한 최종적인 해석 권한은 절차적으로 경험하는 주체에게 유보되어야 한다는 규범, 즉 '정동적 주권 (affective sovereignty)'의 규범을 도출합니다. 이러한 결과는 감정 AI의 설계, 평가 및 규제가 정확도 극대화 (accuracy maximisation)보다는 해석 권한의 명시적 할당을 핵심에 두어야 함을 시사합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.AI의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기