본문으로 건너뛰기

© 2026 Molayo

arXiv논문2026. 06. 18. 11:45

SAERec: Sparse Autoencoder를 통한 추천을 위한 세밀하고 해석 가능한 의도 사전 구축

요약

SAERec는 Sparse Autoencoder(SAE)를 활용하여 LLM의 잠재 공간에서 세밀하고 해석 가능한 의도 사전(intent priors)을 구축하는 새로운 추천 모델입니다. 텍스트 임베딩을 얽힘 해제하여 개인적·공통 의도를 추출하고, 멀티 브랜치 어텐션 메커니즘을 통해 추천의 정확도와 해석 가능성을 동시에 높였습니다.

핵심 포인트

  • Sparse Autoencoder를 통한 텍스트 임베딩의 의미론적 분리 및 해석 가능성 확보
  • 개인적 의도와 공통 의도를 구분하여 사용자 표현 구축
  • 멀티 브랜치 어텐션과 적응형 융합 레이어를 통한 시퀀스 모델링 최적화
  • 기존 베이스라인 모델 대비 높은 추천 성능 및 인간이 이해 가능한 설명 제공

의도 기반 추천 시스템(Intent-based recommender systems)은 사용자 행동 뒤에 숨겨진 동기를 모델링함으로써 정확도와 해석 가능성을 향상시킨다는 점에서 상당한 주목을 받아왔습니다. 대부분의 기존 모델은 클러스터링(clustering)이나 프로토타입 학습(prototype learning)을 통해 사용자 시퀀스로부터 의도를 직접 도출합니다. 그러나 이러한 모델들은 시퀀스 품질에 민감하고, 의도의 개수를 미리 설정해야 하며, 명시적인 의미론적 근거(semantic grounding)가 부족합니다. 이러한 문제들은 불완전하고 거친 의도 집합으로 이어져 추천의 효과를 제한합니다. 본 논문에서는 추천을 가이드하기 위해 텍스트 코퍼스(textual corpus)로부터 세밀하고 해석 가능한 의도 공간을 자동으로 구축하는 새로운 추천 모델인 SAERec(Sparse Autoencoder for intent-based recommendation)를 제안합니다. SAERec는 텍스트를 부가적인 신호로 취급하는 대신, 의도 구축을 위한 정보 밀도가 높은 증거로 활용합니다. 구체적으로, 먼저 우리는 Sparse Autoencoder (SAE)를 사용하여 텍스트 임베딩(text embeddings)을 얽힘 해제(disentangle)하고 해석함으로써, 텍스트 노이즈로부터 의도 관련 의미론을 분리하여 대규모 언어 모델 (LLMs)의 잠재 공간(latent space)으로부터 포괄적인 세밀한 해석 가능 의도 집합을 추출합니다. 그런 다음, 각 사용자에 대해 이 집합에서 관련 의도를 사전(priors)으로서 검색하여 추천을 가이드합니다. 여기에는 사용자의 현재 관심사와 일치하는 개인적 의도(personal intents)와 사용자 간에 공유되는 일반적인 아이템 패턴(예: 품질, 가격)을 포착하는 공통 의도(public intents)가 포함됩니다. 마지막으로, 검색된 의도를 시퀀스 모델링에 통합하기 위해, 시간적 의존성(temporal dependencies)을 포착하고 개인적 및 공통 의도 신호를 모두 주입하는 멀티 브랜치 어텐션 메커니즘(multi-branch attention mechanism)을 제안하며, 이어서 최종 추천을 위한 사용자 표현(user representation)을 구축하기 위한 적응형 융합 레이어(adaptive fusion layer)를 제안합니다. 공개 데이터셋에 대한 광범위한 실험을 통해 SAERec의 우수성을 입증하였으며, 인간이 이해할 수 있는 설명을 제공하는 동시에 최첨단(state-of-the-art) 베이스라인 모델들을 지속적으로 능가함을 보여주었습니다.

AI 자동 생성 콘텐츠

본 콘텐츠는 arXiv cs.AI의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.

원문 바로가기
0

댓글

0