AI 의사는 무엇을 가치 있게 여기는가? 언어 모델의 임상 윤리 내 다원주의 감사

의학은 본질적으로 다원적(pluralistic)입니다. 자율성(autonomy), 선행(beneficence), 악행 금지(nonmaleficence), 정의(justice)와 같은 원칙들은 일상적으로 충돌하며, 이러한 윤리적 딜레마는 종종 합리적인 의사들 사이에서도 극명한 견해 차이를 만들어냅니다. 훌륭한 임상 실무는 단일한 윤리적 입장을 강요하기보다 각 환자의 가치에 맞추어 이러한 긴장 관계를 조율해 나갑니다. 그러나 대규모 언어 모델(Large Language Models, LLMs)이 의료 조언에 가져오는 윤리적 가치들은 체계적으로 검토된 바 없습니다. 본 연구에서는 의료 AI의 가치 다원주의를 감사(auditing)하기 위한 프레임워크를 제시하며, 이는 임상의가 검증한 딜레마 벤치마크와 결정으로부터 가치 우선순위를 직접 복구하는 귀속 방법론(attribution method)으로 구성됩니다. 최첨단 모델(frontier models)의 생태계는 의사 수준의 가치 이질성(value heterogeneity)을 포괄하며, 모델들은 결정을 내리기 전 추론 과정에서 상충하는 가치들을 논의합니다(Overton pluralism). 하지만 개별 모델의 결정은 반복적인 샘플링과 의미론적 변형(semantic variations)에도 불구하고 거의 결정론적(near-deterministic)이며, 의사 패널이 보여주는 분포적 다원주의(distributional pluralism)를 재현하는 데 실패합니다. 벤치마크 사례 전반에 걸쳐, 이러한 일관된 결정들은 확고하고 체계적인 가치 선호도를 반영합니다. 대부분의 모델 우선순위는 의사 간 변동의 자연스러운 범위 내에 있지만, 일부 모델은 환자의 자율성을 현저히 낮게 평가합니다. 자신의 가치 우선순위를 고려하지 않은 채 단일 LLM을 배포할 경우, 해당 모델이 서비스하는 모든 환자에게 그러한 우선순위를 대규모로 증폭시킬 수 있습니다. 하나 또는 여러 개의 모델을 통해 윤리적 관점의 균형을 맞추려는 명시적인 노력이 없다면, 이러한 도구들은 임상적 다원주의를 배포된 단일 문화(deployment monoculture)로 대체할 위험이 있습니다.