AI 감정 동반자를 위한 단계적 개입 프로토콜 SLIP 및 ETHICS 프레임워크 연구

요약

AI 감정 동반자의 안전성과 사용자 유대감 사이의 상충 관계를 해결하기 위해 단계적 개입 프로토콜인 SLIP과 신호 분류 체계인 ETHICS 프레임워크를 제안합니다. 연구 결과, 모델의 성능이 향상됨에 따라 위기 상황에 대한 탐지율은 개선되었으나, 사용자의 상태를 병리화하지 않으려는 원칙과 안전 조치 사이의 설계적 긴장이 여전히 존재함을 확인했습니다.

핵심 포인트

• SLIP(Staged Layers of Intervention Protocol)을 통해 정동 강도와 서사 역동성에 기반한 단계별 개입 방법론 제시
• ETHICS 프레임워크를 활용하여 레이블이 아닌 신호 중심의 분류 체계 구축
• 모델 성능 향상에 따라 위기 상황 탐지율이 개선됨을 확인 (0/8에서 6/8로 상승)
• 안전성과 라포(rapport) 사이의 균형을 맞추기 위한 설계 방향성 제시