이진 도덕성 이론(TDM)의 대수적 설명과 AI 정책 설계 적용

본 논문은 취약한 대상(patient)에게 해를 끼치는 의도적 행위자(agent)라는 단순한 2노드 템플릿에 기반한 도덕적 판단의 심리학적 모델인 이진 도덕성 이론(Theory of Dyadic Morality, TDM)에 대한 대수적 설명(algebraic exposition)을 제공합니다. 우리는 구조적 인과 모델링(Structural Causal Modeling, SCM) 표기법을 사용하여 TDM을 공식화하고, 제약 조건 하에서 사람들이 도덕적 판단을 계산하는 방식을 포착하기 위해 표준 SCM을 확장하는 세 가지 심리학적 연산자(타입캐스팅 연산자(typecasting operator), 완성 연산자(completion operator), 가치 의존적 추론 메커니즘(valence-dependent inference mechanism))를 식별합니다. 우리는 TDM의 이진적 한계로 인해 발생하는 확장성 문제를 다루며, 노드 붕괴(node collapse)와 순차적 처리(sequential processing)를 통해 도덕적 인지가 어떻게 다중 노드 시나리오를 압축하는지 보여줍니다. 이러한 대수적 프레임워크를 바탕으로, 우리는 AI 정책 설계에 대한 구체적인 적용 사례를 입증합니다: 상충하는 의무 탐지, 사용자 주체성(agency)을 보존하기 위한 도움 제공(helpfulness) 정책 구조화, 그리고 인과적 개입(causal interventions)으로서의 실패 후 커뮤니케이션 설계가 이에 해당합니다. 마지막으로, 우리는 이 이론을 경험적으로 운용하기 위해 보편적 평균화(universal averaging)보다는 범위가 지정된 맥락적 마음 지각(mind perception) 측정을 권장합니다. 이러한 대수적 공식화는 뉴로심볼릭 AI(neurosymbolic AI) 시스템이 수학적으로 엄밀하면서도 인간의 도덕적 인지에 충실한 방식으로 도덕성을 계산할 수 있게 합니다.