트랜스포머 임베딩 간의 평균 쌍별 코사인 유사도(Mean pairwise cosine similarity)는 온라인 담론이 생성형 AI 하에서 수렴하고 있는지 여부를 판단하는 표준 측정 지표입니다. 만약 이 임베딩들이 문장 유사성을 위해 훈련되지 않은 인코더의 평균 풀링(mean-pooled outputs) 결과물이라면, 이 측정치는 주로 텍스트 길이를 추적합니다.
606만 개의 Reddit 댓글을 분석한 결과, 중심화하지 않은 DeBERTa-v3 측정치는 2022년 후반 이후 보수적인 담론만이 동질성으로 기울어졌음을 시사했습니다. 같은 댓글들을 10단어에서 150단어로 자르는 것만으로도 평균 코사인 유사도는 보고된 변화보다 여덟 배나 높아졌습니다. 모든 댓글을 동일한 길이의 무작위 댓글로 대체하는 위약(placebo) 테스트는 비대칭성의 81%를 재현했으며, 고정 콘텐츠 시뮬레이션은 78%를 재현했습니다.
주성분 방향(leading principal direction)이 원시 DeBERTa 동질성의 99.9%를 차지하며, 길이가 처리된 후에는 모든 인코더에서 비대칭성이 사라지는 것이 확인되었습니다. 57만 5천 개의 Stack Exchange 답변에 대해서도 이 측정치는 ChatGPT 이후 기술 웹사이트의 동질성을 보고하지만, 이는 위약 테스트가 완전히 재현하는 결과였으며 다만 답변이 더 길어졌을 뿐입니다.
31개 연구를 조사한 결과, 비등방성 인코더(anisotropic encoders)가 시계열 또는 길이가 불균일한 설계와 만나는 지점에서 위험성이 발견되었습니다. 잘 알려진 실험에 대한 역방향 통제(reverse control)는 재정규화(renormalization)를 통한 중심화가 실제 효과를 역전시킬 수 있음을 보여줍니다.
저는 저비용 진단 프로토콜을 제안합니다. 수정된 측정치들은 두 정치 진영이 2019년과 2022년 사이에 수렴했으며, ChatGPT 이전에 이미 수렴을 멈췄음을 보여줍니다. 또한, 교차 진영(Cross-camp)의 답변은 같은 진영(same-camp)의 답변보다 목표 대상에게 더 밀접하게 관여합니다.