검색 증강 생성(RAG)에서 온도가 이념적 담론을 어떻게 형성하는가?

원문 발행 2026. 07. 14. 01:36원문 언어 영어AI 한국어 번역arXiv cs.CL (NLP) 원문 보기

요약

본 연구는 RAG가 LLM 출력물에 미치는 이념적 편향의 영향을 다룹니다. COVID-19 치료 기사 코퍼스를 활용하여 세 가지 이념적 담론을 식별하고, 다양한 샘플링 온도에서 모델들이 이념적 질문에 답변하도록 평가했습니다. 연구 결과, RAG는 이념적 담론을 전이하는 경향이 있으며, 샘플링 온도가 이러한 전이 강도에 측정 가능한 영향을 미친다는 것을 보여줍니다.

핵심 포인트

RAG의 이념적 편향 영향은 간과되어 왔으며 중요한 문제로 부각됨.
샘플링 온도는 RAG가 담론을 전이하는 강도에 직접적인 영향을 미침.
중간 온도에서 모델들이 확률성과 검색 기반을 균형 있게 맞추어 가장 높은 정렬도를 보임.

대규모 언어 모델(LLMs)의 환각 현상을 줄이고 사실적 기반을 강화하기 위해 검색 증강 생성(Retrieval-Augmented Generation, RAG)이 점차 채택되고 있습니다. 검색 과정의 오류에 대한 견고성은 탐구되었지만, LLM 출력물에 미치는 이념적 편향의 영향은 간과되어 왔습니다. 예를 들어, 검색된 자료가 이념적 입장을 포함하고 있다면, RAG는 그 출력을 통해 그러한 이념적 담론을 전달하거나(transmit), 증폭시키거나(amplify), 억제할 수 있습니다(suppress). 본 연구에서는 LLM이 생성한 답변에 포함된 이념적 담론의 영향을 검토함으로써 이 문제를 다룹니다. 이를 위해, 저희는 코퍼스 1,117개의 COVID-19 치료 기사에 주어 어휘 차원 분석(Lexical Multidimensional Analysis, LMDA)을 적용하여 세 가지 이념적 담론을 식별했습니다. 이 코퍼스는 RAG의 외부 지식 출처로 사용됩니다. 저희는 다양한 샘플링 온도에서 모델들이 이념적 질문에 답변하도록 함으로써 여러 LLM들을 평가했습니다. 생성된 텍스트들은 이념적 참조 텍스트와의 유사성을 기반으로 의미론적(semantically) 및 어휘적으로(lexically) 평가되었습니다. 저희의 연구 결과는 RAG 프레임워크가 LLM 응답으로 이념적 담론을 전이하는 경향이 있으며, 샘플링 온도가 이러한 전이 강도에 측정 가능한 영향을 미친다는 것을 보여줍니다. 생성된 답변과 참조 텍스트 간의 담론적 정렬(Discoursive alignment)은 모델들이 확률성(stochasticity)과 검색 기반을 균형 있게 맞추는 중간 온도에서 가장 높으며, 낮은 온도에서는 이 과도하게 결정론적인 샘플링이 담론 전이를 억제함을 나타내며 감소합니다.

AI 자동 생성 콘텐츠

원문 바로가기

검색 증강 생성(RAG)에서 온도가 이념적 담론을 어떻게 형성하는가?

요약

핵심 포인트

댓글