논리와 페르소나 분리: 컨텍스트 오염에 대한 Edge LLM 에이전트의 구조적 면역성

엣지 디바이스(edge devices)에서 작동하는 소형 언어 모델 에이전트(small language-model agents)는 대화 기록과 페르소나 지침으로 채워지는 단일 컨텍스트 윈도우(context window) 내에서 페르소나를 유지하고 논리적으로 추론해야 합니다. 우리는 이러한 기록이 길고, 오해의 소지가 있으며, 페르소나에 치중할 때 (페르소나-논리 간섭, persona-logic interference) 에이전트의 논리적 부분에 어떤 일이 발생하는지 연구했으며, 이를 위해 디커플링 아키텍처(Decoupling Architecture, AO-DA)를 제시합니다. 이 아키텍처는 논리적 추론("무엇을", What)과 페르소나 표현("어떻게", How)을 분리하여 하나의 INT4 기반 모델에 두 개의 추론 경로로 구현하며, 여기에는 핫스왑 가능한 LoRA 어댑터(LoRA adapters)가 사용됩니다. 논리 경로는 핵심 턴(core turn)만 받아 검증 가능한 구조화된 상태(Micro-State)를 방출하고; 페르소나 경로는 전체 기록을 사용하여 캐릭터에 맞춰 이를 렌더링합니다. Apple M2 노트북에서 동일 기반 모델로 수행한 비교 실험 (Llama-3.1-8B-Instruct 및 Gemma-3-4B-it, 4비트 사용; 4가지 오염 수준 x 3개 팔(arms) x 2가지 작업 x 2가지 페르소나 x 5가지 시드에 걸쳐 총 480회 실행)에서 다음과 같은 결과를 얻었습니다. (i) 디커플링된 논리 경로는 오염(pollution)에 구조적으로 불변합니다: 프롬프트 토큰 수는 Llama의 경우 180개, Gemma의 경우 167개를 유지하는 반면, 혼합 단일 패스(mixed single-pass) 프롬프트는 242개에서 1,203개로 증가하며, 그 출력은 모든 수준에서 바이트 단위로 동일합니다 (40/40). (ii) 혼합 단일 패스는 점진적으로 성능이 저하됩니다 (Llama의 경우 종합 논리 점수 0.669에서 0.150으로, Gemma의 경우 0.487에서 0.150으로 하락), 주로 요구되는 구조화된 출력을 방출하지 못하는 문제 때문입니다 (Llama의 경우 최고 두 수준에서 실행 중 80-95% 실패율, Gemma의 경우 100% 실패율). (iii) 디커플링 논리 경로에 동일한 오염 데이터를 공급했을 때도, 전용 어댑터(dedicated-adapter), 전용 형식(dedicated-format) 경로는 여전히 단일 패스보다 더 강력합니다 (8B 모델에서 실패율 0-20% 대 80-95%; 쌍으로 측정된 $\Delta$는 +0.30에서 +0.50, Cliff의 $\delta$는 0.50-0.85, Holm 조정 $p \le 0.03$). 하지만 4B 모델에서는 둘 다 성능이 급격히 떨어집니다(collapse). 이 분리 과정은 주제의 첫 번째 턴에서 추가 디코딩 비용을 발생시키지만 (Llama의 경우 28.2초 대 18.2초), 논리 경로를 재실행할 필요 없이 페르소나 핫스와핑(persona hot-swapping) 기능을 1.7ms 만에 구현할 수 있게 합니다. 코드, 평가 기준표(rubric), 테스트 케이스(fixtures), 어댑터 및 로그가 공개되었습니다.