반복적인 LLM 루프의 교란 용량 반응: 원시 스위칭, 확률적 바닥선, 그리고 Append, Replace, Dialog 업데이트 하에서의

요약

본 연구는 반복적인 LLM 루프에서 모델이 특정 패턴에 수렴하는 현상을 분석하고, 이 루프를 다른 곳으로 이동시키기 위해 필요한 교란(disruption)의 양과 지속성을 탐구합니다. 30단계의 반복적 루프 환경에서 Append, Replace, Dialog 업데이트 규칙을 분리하여 테스트한 결과, 컨텍스트 길이와 업데이트 방식에 따라 모델이 원래 패턴에서 벗어나거나 새로운 목적지로 일관되게 이동하는 정도가 다름을 보여줍니다. 특히 전체 역사 프로토콜 하에서는 1,500 토큰 근처에서 탈출 성공률이 높아지는 등, 메모리 정책과 컨텍스트 관리 전략의 중요성을 강조합니다.

핵심 포인트

• LLM은 반복적인 루프 패턴에 수렴하는 경향을 보이며, 이 패턴을 깨기 위해서는 충분한 양의 교란 텍스트가 필요하다.
• 컨텍스트 업데이트 규칙(Append, Replace, Dialog)과 메모리 정책은 모델이 루프를 벗어나거나 새로운 정보로 일관되게 이동할 수 있는 능력을 결정하는 핵심 요소이다.
• 전체 역사 프로토콜 하에서는 컨텍스트가 1,500 토큰 근처에 도달했을 때 원래 패턴에서 탈출하거나 목적지 일관성을 유지하는 성공률이 가장 높게 나타난다.
• 단순한 교란(disruption)만으로는 충분하지 않으며, 반복적 루프의 평가 시에는 확률적 바닥선(probabilistic baseline)을 차감하고 컨텍스트 업데이트 규칙을 고려해야 한다.