당신의 UnEmbedding Matrix는 비밀리에 텍스트 임베딩을 위한 Feature Lens 역할을 합니다

대규모 언어 모델 (Large language models, LLMs)은 광범위한 다운스트림 태스크 (downstream tasks)에서 인상적인 제로샷 (zero-shot) 능력을 보여줍니다. 그러나 이들은 기성 임베딩 모델 (off-the-shelf embedding models)로서 작동하는 데 어려움을 겪으며, 이는 대규모 텍스트 임베딩 벤치마크에서 최적화되지 않은 성능으로 이어집니다. 본 논문에서는 이러한 결함의 근저에 있는 잠재적인 원인을 식별합니다. 우리의 동기는 예상치 못한 관찰에서 비롯되었습니다: 텍스트 임베딩 (text embeddings)이 어휘 공간 (vocabulary space)으로 투영될 때, 빈번하지만 정보가 없는 토큰 (uninformative tokens)들과 정렬되는 경향이 있다는 점입니다. 우리는 이러한 고빈도 토큰의 과도한 표현이 미묘한 의미론적 차이 (nuanced semantics)를 포착하는 모델의 능력을 억제한다고 주장합니다. 이를 해결하기 위해, 우리는 LLM에서 유도된 텍스트 임베딩을 직접 정제하도록 설계된 간단한 선형 변환 (linear transformation)인 EmbedFilter를 소개합니다. 구체적으로, 우리는 LLM 내의 언임베딩 행렬 (unembedding matrix)이 이러한 빈번한 토큰들을 임베딩 공간 (embedding space)에 능동적으로 써 내려가는 잠재 공간 (latent space)을 인코딩하고 있음을 밝혀냈습니다. EmbedFilter는 이 서브스페이스 (subspace)를 필터링하여 고빈도 토큰의 영향을 억제함으로써 의미론적 표현 (semantic representations)을 향상시킵니다. 매력적인 부산물로서, 이는 내재적인 차원 축소 (dimensionality reduction)를 가능하게 하여, 정제된 임베딩 품질을 완전히 보존하면서도 인덱스 저장 공간을 줄이고 검색 속도를 높입니다. 다양한 LLM 백본 (backbones)에 걸친 실험을 통해, EmbedFilter를 장착한 LLM은 임베딩 차원이 크게 감소하더라도 우수한 제로샷 다운스트림 성능을 달성함을 입증했습니다. 우리는 우리의 발견이 LLM 기반 표현 (LLM-based representations)의 메커니즘에 대한 더 깊은 통찰을 제공하고, 텍스트 임베딩 학습을 개선하기 위한 더 원칙적인 설계를 고취하기를 바랍니다. 우리의 코드는 https://github.com/CentreChen/EmbFilter 에서 확인할 수 있습니다.