SAERec: Sparse Autoencoder를 통한 추천을 위한 세밀하고 해석 가능한 의도 사전 구축

요약

SAERec는 Sparse Autoencoder(SAE)를 활용하여 LLM의 잠재 공간에서 세밀하고 해석 가능한 의도 사전(intent priors)을 구축하는 새로운 추천 모델입니다. 텍스트 임베딩을 얽힘 해제하여 개인적·공통 의도를 추출하고, 멀티 브랜치 어텐션 메커니즘을 통해 추천의 정확도와 해석 가능성을 동시에 높였습니다.

핵심 포인트

• Sparse Autoencoder를 통한 텍스트 임베딩의 의미론적 분리 및 해석 가능성 확보
• 개인적 의도와 공통 의도를 구분하여 사용자 표현 구축
• 멀티 브랜치 어텐션과 적응형 융합 레이어를 통한 시퀀스 모델링 최적화
• 기존 베이스라인 모델 대비 높은 추천 성능 및 인간이 이해 가능한 설명 제공