Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
본 논문은 인간-로봇 상호작용(HRI)에서 개인화가 핵심 역량임에도 불구하고, 윤리적 위험에 대한 구조적인 이해가 부족한 문제를 지적합니다. 이에 구현 인지 관점을 기반으로 생애 주기 및 맥락 민감형 프레임워크를 제시하며, 자율성 침식, 편향된 모델링 등 주요 윤리적 위험을 통합적으로 분석하고 설계 권장 사항을 제공합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.AI의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기개인화는 인간-로봇 상호작용(HRI)에서 핵심 역량이 되어가고 있지만, 책임 있는 개인화에 관한 기존 문헌은 파편적이며, 윤리적 위험이 어떤 상호작용 맥락 전반에 걸쳐 발생하는지에 대한 구조적인 이해 없이 고립된 사례만을 제공하고 있습니다. 이러한 격차는 특히 로봇의 구현(embodiment)과 사회적 존재감이 그러한 위험을 증폭시키거나 재구성하거나 새로운 유형의 위험을 생성할 수 있는 HRI에서 매우 중요합니다. 본 논문은 구현 인지 관점(embodiment-aware perspective)에 기반하여 개인화된 HRI를 위한 생애 주기 기반 및 맥락 민감형 프레임워크를 제시합니다. 이 프레임워크는 개인화 프로세스의 단계와 상호작용 특성(단기 대 장기, 개방 도메인 대 폐쇄 도메인)을 결합하여 위험이 어떻게 발생하고 진화하는지에 대한 체계적인 분석을 가능하게 합니다. 이를 바탕으로, 우리는 자율성 침식, 편향된 사용자 모델링, 조작, 비인간화, 사생활 침해를 포함한 주요 윤리적 위험에 대한 통합적 분석을 수행하고, 이러한 위험들이 맥락 전반에 걸쳐 어떻게 나타나는지 검토합니다. 우리는 이러한 통찰력을 실행 가능한 설계 권장 사항으로 전환하고 열린 연구 과제를 개괄합니다. 개인화된 HRI의 설계 공간과 위험 지형 모두를 구조화함으로써, 본 연구는 개인화된 로봇 행동을 위한 보다 체계적이고 투명하며 윤리적으로 근거한 접근 방식의 토대를 제공합니다.