로컬 환경에서 결정론적 상태 플러그인을 사용한 장기 작업 드리프트 수정
요약
장기적인 로컬 모델 작업에서 발생하는 목표 드리프트와 컨텍스트 손실 문제를 해결하기 위해 결정론적 상태 추적 플러그인이 개발되었습니다. 이 플러그인은 채팅 메모리와 독립적으로 구조화된 상태를 유지하며, 거시적 마일스톤과 미세 단계를 명확히 분리하여 모델의 작업 흐름을 정확하게 제어합니다.
핵심 포인트
- 컨텍스트 압축으로 인한 목표 드리프트 방지
- 플러그인이 외부에서 구조화된 상태 추적 강제
- 거시적 마일스톤과 미세 단계를 명확히 분리 관리
- 에이전트 루프의 정확한 상태 관리를 지원
장기적인 작업을 로컬 모델로 실행할 때 짜증 나는 문제에 직면했습니다. 컨텍스트 윈도우 압축이 몇천 토큰 후에 발생하면, 모델이 원래의 범위를 놓치게 됩니다. 좋은 시스템 프롬프트를 사용하더라도, 몇 번의 압축 주기만으로 목표 드리프트(goal drift), 환각된 작업 완료, 또는 루프가 발생합니다.
따라서 순전히 컨텍스트 메모리에 의존하는 대신 결정론적 추적을 강제하는 작은 플러그인을 작성했습니다: https://github.com/janpauldahlke/dsh-local-long-horizon
작동 방식 &&& 화면에 보이는 것
이 플러그인은 에이전트 루프(agent loop)에 연결되어 메인 채팅 버퍼 외부에서 구조화된 상태를 유지합니다.
UI를 보면:
- 우측 패널 (플러그인 상태): 이 사이드바는 채팅 컨텍스트 메모리와 독립적으로 실행됩니다.
- Active: 현재의 거시적 마일스톤(macro milestone)을 추적합니다. (M2+M3+M4 승인 -> 청크 커밋 -> M5 -> main).
- Now: 현재 실행 중인 즉각적인 미세 단계(micro-step)를 보여줍니다. (진행 중: M5 - 히스토리 검색: 스캐너 코어 등...).
- Next 3: 압축 후 모델이 앞서 나아가거나 작업을 지어내는 것을 방지하기 위해 다가오는 단계의 명시적인 결정론적 대기열(queue)입니다.
- Done (최근): 커밋된 체크포인트, 종료 코드 및 테스트 상태를 보여주는 검증 로그입니다.
에이전트가 컨텍스트를 압축할 때, 이 플러그인은 손실성 요약(lossy summary)을 신뢰하는 대신 모델을 이 정확한 상태 파일에 재고정합니다.
코드는 GitHub에 있으니 테스트하거나 자신의 로컬 환경 설정에 맞게 조정하고 싶은 분들은 이용하세요. 피드백이나 PR 환영합니다.
제출자 /u/paulqq
[링크] [댓글]
AI 자동 생성 콘텐츠
본 콘텐츠는 Reddit AI Engineering의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기