AI의가치 정렬(value alignment) 문제는 종종 순수하게 기술적이거나 규범적인 문제로 다루어져

AI의 가치 정렬(value alignment) 문제는 종종 순수하게 기술적이거나 규범적인 문제로 다루어져 왔습니다. 하지만 본 논문은 이 문제를 '거버넌스' 차원의 구조적 질문으로 재정의합니다. 즉, AI 시스템이 추상적으로 얼마나 정렬되었는가보다, 누구를 위해, 어느 정도 수준에서 정렬되어야 하는지(for whom, and at what cost)에 초점을 맞춥니다.

저자는 경제학의 주체-대리인 프레임워크(principal-agent framework)를 활용하여 미정렬이 발생하는 세 가지 상호작용 축을 제시합니다. 이 축은 목표(objectives), 정보(information), 그리고 **주체(principals)**입니다. 이 삼축 구조는 실제 시스템에서 왜 미정렬이 발생하는지 진단하는 체계적인 방법을 제공합니다.

핵심적으로, 정렬은 모델의 단일한 기술적 속성이 아니며, 목표 설정 방식, 정보 분배 방식, 그리고 실질적으로 누구의 이해관계가 반영되는지에 의해 결정되는 결과물입니다. 따라서 미정렬을 해결하기 위해서는 기술 설계만으로는 부족하며, 누가 어떤 가치를 중요하게 여기는지 지속적으로 논의하고 관리하는 제도적 과정(institutional processes)이 필수적임을 강조합니다.