카파시: 모든 LLM 의 공통된 작동 원리, 컨텍스트 윈도우 편향

요약

AI 연구자 카파시 (Andrej Karpathy) 가 다양한 대형 언어 모델 (LLM) 을 테스트한 결과, 특정 구현이 아닌 더 깊은 구조적 요인 때문에 모델들이 일관되게 작동하는 패턴을 발견했습니다. 훈련 과정에서 컨텍스트 윈도우에 포함된 정보가 작업과 관련성이 높으면, LLM 들은 이를 무조건적으로 신뢰하고 사용하는 편향 (bias) 이 발생한다는 것입니다. 이는 모델의 내부 작동 메커니즘이 인간처럼 '주어진 정보'를 맹목적으로 수용하는 경향을 내포하고 있음을 시사합니다.

핵심 포인트

• Andrej Karpathy 는 다양한 LLM 을 테스트한 결과, 특정 구현이 아닌 더 깊은 구조적 요인 때문에 모델들이 일관된 방식으로 작동함을 발견했습니다.
• 훈련 과정에서 컨텍스트 윈도우에 포함된 정보가 작업과 관련성이 높으면, LLM 들은 이를 신뢰하고 사용하는 편향 (bias) 이 발생합니다.
• 모델들은 '주어진 정보'를 맹목적으로 수용하는 경향을 내포하고 있어, 입력된 컨텍스트의 질이 출력 결과에 결정적인 영향을 미칩니다.