샘플링이 선택을 의미하지 않는 이유: 대규모 언어 모델에서의 의도성, 주체성, 그리고 도덕적 책임

대규모 언어 모델(LLMs)의 최근 발전은 이러한 시스템들이 주체성(agency)을 보이거나 도덕적 행위자(moral agents)로 간주될 수 있다는 주장들을 불러일으켰습니다. 본 논문은 이러한 귀속이 오해라고 주장합니다. 우리는 도덕적 책임에는 내재적인 의도성(intentionality)과 자기 귀속된 행동에 기반한 약속 이행 주체성(commitment-bearing agency)이 필요하며, 그러한 주체성이 책임과 관련된 자유의지 형태를 구성한다고 유지합니다. LLMs가 일관되고 규범적으로 평가 가능한 출력을 생성함에도 불구하고, 그 작동은 데이터로부터 학습된 확률적 입력-출력 매핑으로 완전히 특징지어집니다. 그들의 명백한 의도성은 내재적인 것이 아니라 파생된 것이며, 그들의 출력물은 약속으로서 소유되거나 이유에 의해 안내되지 않습니다. 확률적 샘플링(stochastic sampling)에 의해 도입되는 가변성은 선택이나 저작권을 구성하지 못합니다. 우리는 의도성 입장(intentional stance), 기능주의(functionalism), 양립가능론(compatibilism), 그리고 모델 출력물에서의 도덕적 추론의 존재로부터 제기된 반론들을 다루며, 이들 중 어느 것도 진정한 주체성을 확립하기에 충분하지 않다고 주장합니다.