소형 모델을 위한 에이전트 하네스(Agent Harness)를 구축했습니다. Qwen 3.5 4b로 서버를 관리하게 했습니다.

이것은 제가 계속 작업해 온 것입니다. 저는 더 작은 로컬 모델(local models)을 가지고 노는 것을 좋아하지만, 대부분의 에이전트 하네스(agent harness)가 이들에게는 적합하지 않다는 것을 발견했습니다. 서로 다른 모델 제품군(model family) 전반에 걸쳐 나타나는 실패 모드(failure modes)는 대개 다음과 같습니다:

도구 호출(tool calls) 실패
환경 변수(environment variables) 검증 미흡
일반적인 실패 모드(failure modals)에 대한 복구 능력 부족
로컬 백엔드(local backend) 사용 시 소형 모델이 생성(generation) 중에 일시 정지/중단되는 경향
목표 달성 과정 중 상태 추적(state tracking) 미흡
로컬/원격 작업 분리(local/remote task separation) 미흡

기본적으로 하네스는 로컬 모델을 중심으로 구축되어야 합니다. 저는 바로 그렇게 작동하는 Qwen 및 Gemma 제품군 로컬 모델을 위한 하네스를 구축했습니다.
여기에 GitHub 링크가 있습니다.
여기에 Qwen 3.69b가 서버를 관리하는 모습이 있습니다.
제 생각에는 이것이 더 흥미롭습니다.
여기에 하네스 내에서 Qwen 3.5 4b가 원격 서버를 관리하는 모습이 있습니다.
저장소(repo)에는 이러한 결과 중 일부를 얻기 위해 사용된 몇 가지 기술이 설명되어 있습니다. 관심이 있다면 하네스를 한번 살펴보시기 바랍니다. 더 안정적으로 만들고 싶지만, 저 혼자뿐입니다.

제출자: /u/Invader-Faye
[link] [comments]