Karpathy: LLM 개인화 시 메모리의 산만성 문제

Andrej Karpathy 는 모든 대형언어모델(LLM) 에서 개인화(personalization) 를 구현할 때 겪는 핵심 장애물이 '메모리'가 모델의 주의를 어떻게 산만하게 만드는지라고 지적했습니다. 그는 약 2 개월 전 제기된 특정 질문이 현재까지도 해결되지 않은 깊은 관심사로 남아 있으며, 이 문제를 해결하기 위한 지속적인 고민과 반복적인 논의가 필요함을 강조하고 있습니다.