정신 건강 지원 AI의 신뢰 구축을 위한 3계층 프레임워크 제안

요약

본 논문은 정신 건강 분야에서 '신뢰할 수 있는(trustworthy)' AI 시스템 구축이 다학제적 과제임을 강조하며, 기존의 기술 중심 평가 기준과 임상적 요구 사이의 괴리를 지적합니다. 이를 해결하기 위해 인간 중심, AI 중심, 상호작용 중심으로 구성된 3계층 신뢰 프레임워크를 제안합니다. 이 프레임워크는 연구자, 의료 전문가, 규제 기관 등 다양한 이해관계자의 관점을 통합하여, NLP가 측정하는 기술적 지표와 실제 정신 건강 환경이 요구하는 임상적 적합성 및 공감 능력을 연결하는 새로운 평가 기준을 제시합니다.

핵심 포인트

• 신뢰할 수 있는 AI 시스템 구축은 단순히 기술적 견고함(robustness)에만 국한되지 않으며, 치료 충실도(therapeutic fidelity)와 같은 임상적 측면이 필수적으로 고려되어야 합니다.
• 본 연구는 인간 중심, AI 중심, 상호작용 중심으로 구성된 3계층 신뢰 프레임워크를 제안하여, 다양한 이해관계자의 관점을 통합하는 체계적인 접근 방식을 제공합니다.
• 기존의 NLP 기반 자동 측정 지표들이 실제 정신 건강 상황에서 요구되는 깊이 있는 임상적 적합성이나 공감 능력 같은 영역을 포착하는 데 한계를 가지고 있음을 강조합니다.
• 본 논문은 사회기술적으로 정렬되고 진정으로 신뢰할 수 있는(genuinely trustworthy) AI를 개발하기 위한 구체적인 연구 의제(research agenda)를 제시합니다.