RAG는 학습하지 않는다 — Karpathy의 LLM Wiki가 지식 패러다임 전체를 바꾼다

요약

본 기사는 RAG(Retrieval-Augmented Generation)의 근본적인 한계점을 지적하며, AI 시스템에 문서를 업로드하는 과정이 실제 학습을 유발하지 않는다는 점을 강조합니다. 이 글은 Andrej Karpathy의 LLM Wiki가 제시하는 새로운 관점을 통해 기존의 지식 패러다임을 변화시킬 잠재력을 논하고 있습니다.

핵심 포인트

• RAG는 문서를 업로드해도 실제로 모델이 학습하지 않는다.
• AI 시스템에 문서 처리 과정(청크 검색, 답변 생성)은 반복적인 사이클일 뿐이다.
• Karpathy의 LLM Wiki가 기존 지식 패러다임 전체를 변화시킬 수 있는 새로운 관점을 제시한다.