Computer Science > Computation and Language

Title: LLM에 인간과 유사한 속성이 있다면, Age of Empires II에도 그러하다

PDF 보기 초록: 대규모 언어 모델 (LLMs) 및 LLM 기반의 에이전트 워크플로 (agentic workflows)에 관한 많은 연구가 수행되어 왔습니다. 그러나 이 분야의 많은 연구는 이들에게 일반화된 의인화된 속성 (anthropomorphic attributes, 예: 도덕성 또는 자연어 이해)이 발현된다고 기술하거나, 이를 귀속시키거나, 혹은 가정합니다. 우리의 목표는 이러한 속성의 존재 여부에 대해 찬성하거나 반대하려는 것이 아니라, 이러한 결론들이 틀릴 수 있음을 지적하는 것입니다. 이를 위해 우리는 비디오 게임인 Age of Empires II 상에서 간단한 신경망 (neural network)을 구축하고 훈련시켰으며, LEGO나 Greater Boston Area와 같이 충분히 강력한 기질 (substrate) 내의 어떤 엔티티라도 이러한 속성을 나타낼 수 있음을 주목합니다. 따라서 LLM의 소위 의인화된 속성들은 경험적으로 유일하지 않습니다 (empirically non-unique). 일부 특성(예: 프롬프트에 대한 응답)은 일정하게 유지될 수 있지만, 인지된 행동에 대한 해석과 같은 다른 특성들은 기질에 따라 변할 수 있기 때문입니다. 따라서 모든 경험적 근거를 가진 논의에는 명시적인 측정 기준이 필요하며, 그렇지 않으면 해석은 표현 (representation)에 맡겨지게 됩니다. 우리는 또한 이러한 속성이 기질과 무관하게 일반화된 방식으로 시스템에 존재하거나 존재하지 않는다고 가정하는 것이, 해당 주제에 대한 실험자의 관점과 상관없이 순환적이거나 정보가 없는 결론으로 이어진다는 것을 보여줍니다. 마지막으로, 우리는 실험을 설정할 때 의인화된 속성을 가정하는 대신 LLM의 비유일성 (non-uniqueness)을 가정하는 '귀무 (null)' 가정을 제안하며, 이에 대한 예시를 함께 제시합니다. 또한 우리의 연구에 대한 잠재적인 반론을 논의하고, 해당 분야를 간략하게 조사하며, Age of Empires II가 기능적 및 튜링 완전성 (Turing-complete)을 갖추고 있음을 증명합니다.

현재 탐색 문맥:

Bibliographic and Citation Tools

Code, Data and Media Associated with this Article

Demos

Recommenders and Search Tools

arXivLabs: 커뮤니티 협력자와 함께하는 실험적 프로젝트

arXivLabs는 협력자들이 arXiv 웹사이트에서 직접 새로운 arXiv 기능을 개발하고 공유할 수 있도록 지원하는 프레임워크입니다.

arXivLabs와 함께 활동하는 개인 및 조직은 모두 개방성 (openness), 커뮤니티 (community), 탁월함 (excellence), 그리고 사용자 데이터 프라이버시 (user data privacy)라는 우리의 가치를 수용하고 받아들였습니다. arXiv는 이러한 가치에 전념하고 있으며, 이를 준수하는 파트너와만 협력합니다.

arXiv 커뮤니티에 가치를 더할 프로젝트 아이디어가 있으신가요? arXivLabs에 대해 더 알아보기