사용자 측 메모리의 기질 비대칭성: 진단 프레임워크

LLM(대규모 언어 모델)의 사용자 측 메모리(User-side memory)는 일반적으로 단일한 "개인화(personalization)" 능력으로 평가됩니다. 즉, 사용자의 이력이 주어졌을 때 출력이 사용자를 더 잘 인지하는가에 초점을 맞춥니다. 본 연구는 이러한 집계된 지표가 서로 반대 방향으로 발생하는 실패를 은폐한다는 점을 보여줍니다. 메모리는 최소 세 가지의 직교하는 축으로 분해됩니다. 즉, 행동 일관성 (behavioral consistency; 스타일, 음성), 사실적 존재 (factual presence; 이력 내 사실 회상), 그리고 사실적 부재 (factual absence; 사실이 없을 때 절제)이며, 단일 기질(substrate)이 이 세 가지 모두에서 승리하지는 못합니다. 통제된 50명의 사용자 합성 코퍼스와 실제 데이터 프로브(LaMP-3)를 대상으로, 사용자별 gamma-LoRA(각 사용자의 이력으로 학습된 작은 LoRA 어댑터; gamma는 작업별이 아닌 사용자별임을 의미)를 BGE-large 밀집형 top-K 검색(dense top-K retrieval)과 비교한 결과, gamma-LoRA는 행동 스타일 측면에서 결정적인 승리를 거두는 반면, RAG는 사실적 부재 측면에서 결정적인 승리를 거둔다는 것을 발견했습니다. 또한, 어텐션(attention) 레이어 21-35의 동일한 쿼리-투영 셀(query-projection cells)이 두 효과를 반대 방향으로 인과적으로 부담하고 있음을 확인했습니다(해당 LoRA 가중치를 0으로 만들면 부재-프로브 TPR은 +33 pp 상승하고, 존재-프로브 TPR은 20 pp 하락합니다). RLHF(인간 피드백 기반 강화학습)가 더 많이 적용된 Llama-3.1-8B-Instruct의 경우, 이러한 비대칭성은 치유되지 않고 오히려 강화됩니다. 즉, 파라미터 메모리(parametric memory)의 행동적 이점은 붕괴되는 반면, 검색 대비 부재-교정(absence-calibration) 결함은 확대되는데, 이는 파라미터 사용자 메모리에 대한 정렬 세금(alignment tax)입니다. 실제 데이터인 LaMP-3에서 gamma-LoRA는 대다수의 베이스라인보다 성능이 낮았습니다. 9가지 조건의 완화 스윕(mitigation sweep)을 통해 이를 진단한 결과, 이는 기질의 실패가 아니라 지시 이행(instruction-following)의 붕괴로 나타났습니다(9x2 교차 곱 결과, 평가 시점의 {1..5} 로짓 마스크가 모든 레시피에서 main_acc를 0.995 이상으로 유도함을 보여줍니다). 그리고 가장 좋은 학습 시점의 해결책은 Llama에서 비트 단위로 동일하게 재현됩니다. 마지막으로, 기질 선택 라우팅(substrate-selection routing)은 교정(calibration)의 문제가 아니라 질문 분류(question-classification)의 문제입니다. 질문 텍스트만을 사용한 110M DistilBERT가 모든 로짓 기반 라우터보다 뛰어난 성능을 보였습니다. 본 연구는 진단 프레임워크, 진단된 실제 데이터의 부정적 사례, 정렬 세금의 재현, 그리고 분류로서의 라우팅이라는 발견을 기여합니다.