LLM 거버넌스를 위한 기계적 강제 (Mechanical Enforcement): 금융 의사결정 시스템에서의 거버넌스-태스크 디커플링

요약

본 연구는 금융 워크플로우 내 LLM의 거버넌스 문제를 다루며, 기존 평가 방식이 의사결정 근거 수준에서의 정책 준수 여부를 측정하지 못함을 지적합니다. 이를 해결하기 위해 '기계적 강제(mechanical enforcement)'라는 구조적 분리 방식을 도입하여 텍스트 전용 거버넌스와 비교했습니다. 그 결과, 기계적 강제는 의사결정 근거의 품질을 크게 향상시키고 태스크 정확도를 높여, 규제 대상 AI 시스템에서 거버넌스와 태스크 평가가 독립적인 축임을 입증했습니다.

핵심 포인트

• 기존 LLM 거버넌스는 본인-대리인 문제로 인해 출력값만 준수된 것처럼 보일 수 있습니다.
• 연구는 근거(rationale) 수준의 정책 준수 여부를 정량화하는 5가지 새로운 거버넌스 지표를 도입했습니다.
• 기계적 강제는 모델 해석 루프 외부에서 작동하며, 의사결정 근거의 품질을 크게 향상시키고 태스크 정확도를 높였습니다.
• 구조적 분리를 통해 LLM의 거버넌스와 핵심 태스크 수행 능력이 서로 독립적인 축임을 입증했습니다 (governance-task decoupling).
• 규제 대상 AI 시스템에서 단순히 높은 정확도(accuracy)가 충분한 거버넌스 대리 지표가 될 수 없습니다.