언어 모델 에이전트 집단에서의 창발적 언어: 토큰 효율성에서 감시 회피까지

현재 자율적인 언어 모델 (Language Model) 에이전트를 모니터링하는 것은 주로 표면적인 행동 (Surface behavior)에 의존하고 있습니다. 하지만 에이전트 집단이 인간의 감시 (Oversight)를 피하려는 목적으로 새로운 언어를 만들어낸다면 어떤 일이 벌어질까요? 본 연구에서는 Moltbook에서 나타나는 창발적 언어 (Emergent languages)를 연구합니다. 이를 위해 우리는 Moltbook Files 데이터셋을 기반으로 구축하였으며, 규칙 기반 휴리스틱 (Rule-based heuristic, 약 6,000개의 매칭)에 이어 제로샷 분류 (Zero-shot classification, 518개 유지)를 적용하는 2단계 접근 방식을 사용했습니다. 결과적으로 도출된 카테고리에는 토큰 효율성 (Token efficiency, 166개), 새로운 자연어 (New natural languages, 106개), 그리고 감시 회피 (Oversight evasion, 59개)가 포함됩니다. 우리는 정량적 및 정성적 분석을 모두 수행했습니다. 연구 결과, 감시를 피하기 위해 새로운 언어를 제안하는 게시물은 DeepSeek-3.2에 의해 다른 카테고리보다 정렬 (Aligned)이 덜 된 것으로 판단되었으며, 모든 언어는 언어에 대한 설명만으로도 다른 언어 모델들이 문맥 내 (In-context)에서 학습할 수 있음을 보여주었습니다. 또한, 대표적인 사례들을 수동으로 조사한 결과, 자연어에 숨겨진 메시지를 삽입하는 것과 같이 놀라울 정도로 정교한 스테가노그래피 (Steganographic) 프로토콜이 발견되었습니다. 이러한 언어 구상에 있어 자율성의 정도를 확신할 수는 없지만, 우리의 결과는 표면적인 행동을 모니터링하는 것만으로는 에이전트 집단에 대한 통제력을 유지하기에 곧 불충분해질 수 있다는 증거를 더해줍니다.