Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
n-ary 구조의 지식 편집 시 발생하는 구조적 드리프트 문제를 해결하기 위한 HyperPatch 프레임워크를 제안합니다. 하이퍼그래프 신경망과 위상 LoRA 적응 기술을 통해 복잡한 관계의 무결성을 유지하며 지식을 업데이트합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.CL (NLP)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기대규모 언어 모델 (LLMs)은 시간적 유효성을 유지하기 위해 지식 편집 (Knowledge Editing, KE)에 의존하지만, 현실 세계의 지식은 본질적으로 n-ary (n-항) 구조를 가집니다. 본 연구에서는 비정상 상태 (non-stationary) 환경에서 복잡한 관계에 대한 순차적 업데이트가 n-ary 구조적 드리프트 (n-ary Structural Drift)를 유발함을 입증합니다. 이는 n-ary 이벤트를 트리플 (triples) 형태의 이진 구체화 (binary reification)로 변환할 때 관계의 원자성 (relational atomicity)이 파괴되는 현상입니다. 이는 구조 조건부 지식 전이 실패 (Structure-Conditioned Knowledge Transfer Failure)를 초래하며, 이는 종종 파라미터적 환각 (parametric hallucination)으로 오진되는 검색기 (retriever)의 체계적인 그라운딩 오류 (mis-grounding)를 일으킵니다.
이를 해결하기 위해, 우리는 순차적 KE를 하이퍼그래프 매니폴드 (hypergraph manifolds) 상의 안정성 문제로 재정의하는 파라미터 보존 프레임워크인 HyperPatch를 제안합니다. HyperPatch는 다음 세 단계를 통해 이벤트의 무결성을 보존합니다: (i) 구조적 사전 초기화 (Structural Prior Initialization): 고차 상관관계 (high-order correlations)를 포착하기 위해 하이퍼그래프 신경망 (Hypergraph Neural Network, HGNN) 상의 대조 학습 (contrastive learning)을 통해 위상 인식 임베딩 공간 (topology-aware embedding space)을 구축합니다; (ii) 순차적 위상 편집 (Sequential Topology Editing): 신속한 충돌 해결을 위한 SimHash 기반 위상 정렬 (Topological Alignment)과 백본 재학습 없이 드리프트를 추적하는 위상 LoRA 적응 (Topological LoRA Adaptation)을 사용하는 이중 단계 메커니즘을 활용합니다; (iii) 구조 조건부 추론 (Structure-Conditioned Reasoning): 융합된 언어적 및 구조적 매니폴드로부터 전역적으로 일관된 증거를 통합합니다.
MQuAKE-CF 및 MQuAKE-T 벤치마크에서 HyperPatch는 가장 강력한 베이스라인 대비 Hop-wise 정확도 (H-Acc)에서 각각 96.24%와 21.06%의 상대적 이득을 달성했습니다. 추가적인 절제 연구 (ablations)를 통해 연속적인 n-ary 업데이트 스트림 하에서의 우수한 신뢰성을 입증하였으며, 반면 표준 지식 그래프 (KG) 기반 변형 모델은 구조적 정렬 불량 (structural misalignment)으로 인해 H-Acc가 최대 88.3%까지 급락하는 현상을 보였습니다.