의식 있는 AI를 위한 접근 방식으로서의 창발적 언어 (Emergent Language)

인공 시스템이 의식을 가질 수 있는지에 대한 문제는 여전히 미결 상태로 남아 있습니다. 이는 부분적으로 기존의 접근 방식들이 시스템을 이론 기반의 체크리스트에 따라 평가하거나 (판별적 (discriminative) 방식), 의식에서 영감을 얻은 모듈을 직접 설계하기 (구조적 (architectural) 방식) 때문입니다. 두 방식 모두 관찰된 구조가 인간 언어의 사전 지식 (priors)에 의한 인위적인 결과물인지 여부를 명확히 밝히지 못합니다. 우리는 생성적 방법론을 제안합니다. 즉, 다중 에이전트 강화학습 (multi-agent reinforcement learning)에서의 창발적 언어 (emergent language, EL)입니다. 여기서 에이전트들은 최소한의 상태(언어 없음, 자아 개념 없음, 인간 텍스트에 대한 노출 최소화)에서 시작하여 오직 과업 압박 (task pressure) 하에서만 통신을 발전시키며, 이를 통해 관찰된 구조가 상속된 인간 언어의 사전 지식이 아닌 과업 요구 사항에 대한 인과적 귀속성을 갖도록 보장합니다. 우리는 환경 복잡성의 역할과 창발적 통신의 해석을 포함하여, EL이 의식 관련 구조를 연구하기 위한 생성적 도구로서 어떻게 기능하는지 논의함으로써 우리의 방법론을 정립합니다. 개념 증명 (proof of concept)으로서, 우리는 이 방법론을 최소 환경에서 구현하였으며, 에이전트들이 자아 참조적 통신 (self-referential communication)을 발전시킨다는 것을 보여줍니다. 여기에는 과업 구조나 구조 (architecture)만으로는 예측할 수 없으나 특정 환경적 어포던스 (environmental affordance)로부터 창발된 에코-불일치 탐지 회로 (echo-mismatch detection circuit)가 포함됩니다.