LLM이 실제로 무엇이며, 무엇이 아닌가

요약

LLM의 작동 원리를 확률 분포 기반의 다음 토큰 예측 함수로 정의하며, 모델이 인간처럼 이해하거나 추론하지 않음을 강조합니다. 모든 텍스트 생성은 계산 과정이며, 체인-오브-쏘트(CoT) 프롬프팅도 이 연속적인 토큰 예측에 의존함을 설명합니다.

핵심 포인트

• LLM은 '이해'나 '추론'하는 것이 아니라 다음 토큰의 확률 분포를 출력한다.
• 텍스트 생성 자체가 계산 과정이며, CoT 프롬프팅도 이 원리에 기반한다.
• 모델은 학습 시점 이후의 실시간 지식이나 사용자 데이터에 접근할 수 없다.
• 대화는 상태 비저장(stateless)이며, 메모리 유지는 외부 시스템이 담당해야 한다.