LLM 의 외재적 환각 (Extrinsic Hallucinations)

요약

본 기사는 대규모 언어 모델(LLM)의 환각 문제를 다루며, 특히 '외재적 환각(Extrinsic Hallucination)'에 초점을 맞춥니다. 외재적 환각이란 모델 출력이 사전 학습 데이터셋과 같은 외부 세계 지식에 근거하지 않은 허구적인 내용을 생성하는 경우를 의미합니다. 따라서 LLM이 신뢰성을 갖추기 위해서는 사실적이어야 하며, 모르는 정보는 솔직하게 인정할 수 있어야 합니다.

핵심 포인트

• 환각(Hallucination)은 모델이 불충실하거나 허구적인 내용을 생성하는 현상을 포괄적으로 지칭한다.
• 환각은 '컨텍스트 내 환각'과 '외재적 환각' 두 가지 유형으로 분류된다.
• 본 글에서 다루는 외재적 환각은 모델 출력이 외부 세계 지식(사전 학습 데이터)에 근거하지 않을 때 발생한다.
• LLM이 신뢰성을 확보하려면, 생성된 내용이 사실적이어야 하며, 정보가 부족할 때는 이를 인정하는 능력이 필수적이다.