대규모 프롬프트 디자인: 형식, 명령어 개수, 컨텍스트 길이가 대규모 언어 모델의 명령어 준수 및 환각에 미치는 영향

요약

프롬프트의 형식, 명령어 개수, 컨텍스트 길이가 LLM의 명령어 준수 능력과 환각 발생에 미치는 영향을 연구합니다. 마크다운, 텍스트, 표 등 다양한 형식과 시스템 프롬프트의 한계를 분석합니다.

핵심 포인트

• 프롬프트 형식(마크다운, 표 등)이 모델 성능에 미치는 영향 분석
• 시스템 프롬프트 내 동시 명령어 개수에 따른 준수 능력 변화 연구
• 컨텍스트 길이 증가가 모델의 기억력 및 정직성에 미치는 영향 확인
• LLM의 환각 현상을 줄이기 위한 최적의 프롬프트 디자인 요소 탐색