본문으로 건너뛰기
arXiv논문2026. 11. 19. 02:07
LLM 추론에서 대화 기록이 미치는 잠재적 손실 대표 이미지

LLM 추론에서 대화 기록이 미치는 잠재적 손실

원문 발행 2026. 11. 16. 00:22원문 언어 영어AI 한국어 번역arXiv cs.CL 원문 보기

요약

본 연구는 LLM의 다중 턴 대화 기록이 모델 정확도에 미치는 영향을 분석했습니다. 긴 대화 기록은 성공률을 떨어뜨리지만, 솔버가 검증한 상태 요약(state summary)을 사용하면 성능 저하를 크게 완화할 수 있음이 확인되었습니다. 따라서 LLM 시스템은 작업 상태를 외부로 유지하고 모니터링해야 합니다.

핵심 포인트

  • 대화 기록 축적은 GPT-4o-mini 등 모델의 최종 성공률을 떨어뜨림.
  • 솔버가 검증한 상태 요약은 정확도 하락을 효과적으로 방지함.
  • 일관성 및 논리적 일관성은 정확도보다 덜 영향을 받음.
  • LLM 시스템은 작업 상태를 외부로 유지하고 세션 간 모니터링이 필요함.

AI 자동 생성 콘텐츠

본 콘텐츠는 arXiv cs.CL의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.

원문 바로가기
0

댓글

0