본문으로 건너뛰기
arXiv논문2026. 11. 19. 12:12
임베딩 코사인 측정치는 동질성보다 텍스트 길이를 먼저 측정한다 대표 이미지

임베딩 코사인 측정치는 동질성보다 텍스트 길이를 먼저 측정한다

원문 발행 2026. 11. 17. 03:12원문 언어 영어AI 한국어 번역arXiv cs.CL 원문 보기

요약

트랜스포머 임베딩의 코사인 유사도는 온라인 담론의 동질성을 측정하는 표준 지표이나, 실제로는 텍스트 길이와 같은 구조적 요인에 의해 영향을 받는 경향이 있습니다. 분석 결과, 댓글을 동일 길이로 자르거나 무작위 대체할 경우 높은 상관관계가 재현되어, 이 측정치가 의미하는 바를 신중하게 해석해야 함을 시사합니다.

핵심 포인트

  • 코사인 유사도는 동질성보다 텍스트 길이를 먼저 측정할 위험이 있음.
  • 댓글을 동일 길이로 자르거나 무작위 대체하면 높은 상관관계가 재현됨.
  • 주성분 방향은 원시 DeBERTa 동질성의 대부분을 차지함.
  • 비등방성 인코더는 시계열 또는 길이가 불균일한 데이터에서 위험성이 발견됨.

AI 자동 생성 콘텐츠

본 콘텐츠는 arXiv cs.CL의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.

원문 바로가기
0

댓글

0