정신 건강 지원 AI의 신뢰 구축을 위한 3계층 프레임워크 제안

정신 건강 지원 AI의 신뢰성 확보: 다중 이해관계자 관점 통합 프레임워크

신경망 처리 언어(NLP) 기술을 활용한 정신 건강 지원 AI 시스템 구축은 현재 학계와 산업 전반의 주요 과제입니다. 그러나 '신뢰할 수 있다(trustworthy)'는 개념 자체가 모호하고, 각 이해관계자마다 정의하는 기준이 상이하여 큰 어려움을 겪고 있습니다.

기존 연구들은 주로 기술적 측면, 즉 모델의 견고성(robustness), 설명 가능성(explainability), 안전성(safety)과 같은 AI 자체의 성능 지표에 초점을 맞추는 경향이 있었습니다. 반면, 실제 임상 현장의 치료 전문가들(therapeutic practitioners)은 단순히 기능적인 정확도를 넘어선 '치료 충실도(therapeutic fidelity)'를 강조합니다. 여기에는 사용자의 상황에 맞는 적절성(appropriateness), 공감 능력(empathy), 그리고 장기적인 사용자 결과(long-term user outcomes) 등이 포함됩니다.

본 논문은 이러한 파편화된 신뢰의 지형을 연결하기 위해 3계층 신뢰 프레임워크를 제안합니다. 이 프레임워크는 세 가지 핵심 축으로 구성되어, 기술적 관점과 인간 경험적 관점을 통합적으로 다룹니다.

1. 인간 중심 신뢰 (Human-oriented Trust): 사용자가 AI 시스템을 얼마나 믿고 의존할 수 있는지에 초점을 맞춥니다. 이는 사용자 인터페이스의 직관성이나 투명한 정보 제공 등을 포함합니다.
2. AI 중심 신뢰 (AI-oriented Trust): 모델 자체의 기술적 성능과 안정성을 다룹니다. 여기에는 공정성(fairness)이나 데이터 편향성 제거 등이 핵심입니다.
3. 상호작용 중심 신뢰 (Interaction-oriented Trust): 사용자와 AI가 상호작용하는 과정에서 발생하는 역동적인 관계와 경험에 초점을 맞춥니다. 이는 맥락적 적절성이나 대화의 흐름 유지 능력 등을 평가합니다.

이 3계층 프레임워크를 바탕으로, 연구진들은 기존의 정신 건강 AI 관련 연구들을 체계적으로 검토하고 '신뢰할 수 있다'는 개념을 평가하는 다양한 방법론(자동 지표부터 임상적 검증 방식까지)을 분석했습니다. 그 결과, NLP가 현재 측정 가능한 자동화된 메트릭들이 실제 정신 건강 맥락에서 요구되는 깊이 있는 인간의 심리적 니즈를 충족시키는지에 큰 간극(critical gap)이 존재함을 명확히 했습니다.

따라서 본 연구는 단순히 기술 개선을 넘어, 사회기술적으로 정렬되고 진정으로 신뢰할 수 있는 AI 시스템을 구축하기 위한 포괄적인 **연구 의제(research agenda)**를 제시하며, 다학제적 협력과 새로운 평가 패러다임의 필요성을 역설하고 있습니다.