239편의 논문을 조사한 결과, AI 에이전트의 자기 개선 (self-improvement) 방법 중 68%가 모델 재학습 (model retraining)보다는 스캐폴드 (scaffold) 업데이트에 집중하고 있어, 평가 품질에 대한 우려가 제기되고 있습니다.

239편의 논문을 대상으로 한 새로운 조사에 따르면, AI 에이전트의 자기 개선 (self-improvement)에는 모델 업데이트 (model updates)와 스캐폴드 업데이트 (scaffold updates)라는 두 가지 뚜렷한 경로가 있음이 밝혀졌습니다. @HuggingPapers에 따르면, 프롬프트 (prompts), 메모리 (memory), 또는 도구 (tools)를 수정하는 스캐폴드 업데이트 (scaffold updates)가 최근 연구의 68%를 차지합니다.

주요 사실

• AI 에이전트 자기 개선 (self-improvement)에 관한 239편의 논문을 조사함.
• 논문의 68%가 스캐폴드 업데이트 (scaffold updates: 프롬프트, 메모리, 도구)에 집중함.
• 모델 업데이트 (model updates: 미세 조정 (fine-tuning), RLHF)는 접근 방식의 32%를 차지함.
• 단 12%만이 홀드아웃 벤치마크 (held-out benchmarks)에서 평가를 수행함.
• 스캐폴드 업데이트 (scaffold updates)는 더 빠른 반복 (iteration)과 더 낮은 컴퓨팅 비용 (compute costs)을 제공함.

AI 에이전트가 모델 자체를 업데이트하거나 스캐폴드 (프롬프트, 메모리, 도구)를 업데이트함으로써 어떻게 스스로 개선되는지에 대한 239편의 논문 조사가 @HuggingPapers에 의해 발표되었습니다 [@HuggingPapers에 따르면]. 이 분석은 자기 개선 (self-improvement) 방법을 모델 업데이트 (model updates)와 스캐폴드 업데이트 (scaffold updates)라는 두 가지 광범위한 범주로 분류합니다.

스캐폴드 업데이트 (Scaffold Updates)가 주도함

Paper page - A Comprehensive Survey of Self-Evolving AI Agents: …

최근 연구는 스캐폴드 업데이트 (scaffold updates)가 주도하고 있으며, 논문의 68%가 모델 재학습 (model retraining)보다는 프롬프트 (prompt) 및 도구 (tool) 수정에 집중하고 있습니다. 여기에는 반복적인 프롬프트 엔지니어링 (iterative prompt engineering), 동적 메모리 검색 (dynamic memory retrieval), 그리고 도구 사용 개선 루프 (tool-use refinement loops)가 포함됩니다. 조사 결과에 따르면, 스캐폴드 기반의 개선은 더 빠른 반복 주기 (iteration cycles)와 더 낮은 컴퓨팅 비용 (compute costs)을 제공하여, 모델 가중치 (model weights)가 고정된 프로덕션 배포 (production deployments) 환경에서 매력적인 선택지가 됩니다.

모델 업데이트 (Model Updates)의 지속

미세 조정 (fine-tuning) 및 RLHF를 포함한 모델 업데이트 (Model updates)는 조사된 접근 방식 중 32%만을 차지합니다. 이러한 방법들은 모델의 가중치 (weights)를 수정하지만, 상당한 컴퓨팅 자원을 요구하며 치명적 망각 (catastrophic forgetting)의 위험이 있습니다. 해당 조사에서는 전체 재학습 (full retraining)보다는 더 작고 목표 지향적인 미세 조정 실행으로 향하는 추세를 언급합니다.

벤치마킹 격차 (Benchmarking Gaps)

단 12%의 논문만이 홀드아웃 벤치마크 (held-out benchmarks)에서 자기 개선 (self-improvement)을 평가하고 있으며, 이는 과적합 (overfitting)에 대한 의문을 제기합니다. 대부분의 평가는 분포 내 작업 (in-distribution tasks) 또는 합성 테스트 세트 (synthetic test sets)를 사용하므로 일반화 가능성 (generalizability) 주장에 한계가 있습니다. 이 조사는 분야 전반에 걸친 표준화된 평가 프로토콜을 촉구합니다.

독특한 관점: 이 분야는 모델 중심의 개선 (fine-tuning, RLHF)에서 스캐폴드 중심의 개선 (scaffold-centric improvement; 프롬프트, 메모리, 도구)으로 조용히 전환하고 있습니다. 이는 모델이 고정된 연산 엔진 역할을 하고 지능이 오케스트레이션 레이어 (orchestration layer)에 존재하는 에이전트 시스템 (agentic systems)으로 향하는 광범위한 산업계의 변화를 반영합니다. 조사의 68:32 비율은 연구의 관심이 여전히 모델 업데이트에 머물러 있음에도 불구하고, 실제로는 스캐폴드 접근 방식이 승리하고 있음을 시사합니다.

주목해야 할 점

홀드아웃 벤치마크 채택률이 30%를 넘어서는지, 그리고 LoRA 변형과 같은 새로운 기술로 인해 모델 미세 조정 비용이 낮아짐에 따라 스캐폴드 업데이트가 그 우위를 유지하는지를 추적하는 2026년 말의 후속 조사를 주목하십시오.

원문 게시: gentic.news