Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
본 논문은 LLM이 보여주는 '주체성'이나 '도덕적 행위자'라는 주장이 오해라고 반박합니다. LLM의 작동 방식은 데이터 기반 확률적 입력-출력 매핑에 불과하며, 진정한 의도성이나 약속 이행을 위한 자기 귀속된 행동이 결여되어 있음을 주장합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.AI의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기대규모 언어 모델(LLMs)의 최근 발전은 이러한 시스템들이 주체성(agency)을 보이거나 도덕적 행위자(moral agents)로 간주될 수 있다는 주장들을 불러일으켰습니다. 본 논문은 이러한 귀속이 오해라고 주장합니다. 우리는 도덕적 책임에는 내재적인 의도성(intentionality)과 자기 귀속된 행동에 기반한 약속 이행 주체성(commitment-bearing agency)이 필요하며, 그러한 주체성이 책임과 관련된 자유의지 형태를 구성한다고 유지합니다. LLMs가 일관되고 규범적으로 평가 가능한 출력을 생성함에도 불구하고, 그 작동은 데이터로부터 학습된 확률적 입력-출력 매핑으로 완전히 특징지어집니다. 그들의 명백한 의도성은 내재적인 것이 아니라 파생된 것이며, 그들의 출력물은 약속으로서 소유되거나 이유에 의해 안내되지 않습니다. 확률적 샘플링(stochastic sampling)에 의해 도입되는 가변성은 선택이나 저작권을 구성하지 못합니다. 우리는 의도성 입장(intentional stance), 기능주의(functionalism), 양립가능론(compatibilism), 그리고 모델 출력물에서의 도덕적 추론의 존재로부터 제기된 반론들을 다루며, 이들 중 어느 것도 진정한 주체성을 확립하기에 충분하지 않다고 주장합니다.