최적화 문제 해결을 위한 이중 클러스터 메모리 에이전트 (DCM-Agent) 제안

요약

LLM은 단일 최적화 문제가 여러 상충되는 모델링 패러다임을 가질 때 구조적 모호성 문제에 직면합니다. 본 논문은 이러한 문제를 해결하기 위해 '이중 클러스터 메모리 에이전트(DCM-Agent)'를 제안합니다. DCM-Agent는 과거의 성공적인 해답들을 모델링 및 코딩 클러스터로 분류하고, 각 클러스터를 접근 방식(Approach), 체크리스트(checklist), 함정(Pitfall) 세 가지 구조화된 지식으로 추출합니다. 이 메모리를 활용하여 추론 과정에서 동적으로 해결 경로를 탐색하고 오류를 수정하며, 적응적으로 추론 방식을

핵심 포인트

• DCM-Agent는 과거 해답을 모델링 및 코딩 클러스터로 분류하고, 접근 방식(Approach), 체크리스트(Checklist), 함정(Pitfall) 세 가지 지식으로 구조화하여 일반화된 가이던스 지식을 생성합니다.
• 메모리 증강 추론(Memory-augmented Inference)을 통해 해결 경로를 동적으로 탐색하고 오류를 수정하며, 적응적으로 추론 방식을 전환할 수 있습니다.
• 7가지 최적화 벤치마크 실험 결과, DCM-Agent는 평균 11%~21%의 성능 향상을 달성했습니다.
• 큰 모델이 구축한 메모리가 작은 모델에게도 우수한 성능을 유도하는 '지식 상속(knowledge inheritance)' 현상이 관찰되어 확장성과 효율성을 입증했습니다.