KoboldCpp 에이전트 소개 (그리고 도움 요청)

r/localllama에 다시 인사드립니다, 저의 kobold concedo입니다.

마지막으로 게시한 지 몇 달이 되었는데, 오늘 공유하고 싶은 새로운 것이 있습니다. 구체적으로는 KoboldCpp가 내장형 통합 KoboldCpp Agent Harness를 탑재하게 되었습니다!

제가 게임에 늦게 참여하는 것 같다는 것을 알지만, 사람들이 복잡한 외부 에이전트 도구(agentic tools)를 설정하는 데 어려움을 겪는 것을 보고, 기본적인 작업을 위한 저만의 쉬운 대체품을 만들기로 결정했습니다.

KoboldCpp에는 이제 단일 체크박스로 활성화할 수 있는 번들형 Agentic harness가 탑재되어 있습니다. 이는 Opencode, Codex 또는 Claude Code 같은 도구들의 매우 가벼운 대체품처럼 작동합니다. 9개의 내장 도구를 제공하며, 모든 도구를 포함하여 시스템 프롬프트는 단지 2k 토큰에 불과하여 대부분의 harness보다 훨씬 작습니다.

기본적인 코드 생성이나 편집, 간단한 게임 및 프로젝트 제작, 또는 일반 에이전트 작업(예: 파일 정렬, 작업 예약 등 정말 필요한 모든 것)에 유용합니다.

사용하려면 GUI 런처의 Admin 탭에서 토글하거나, --agent를 런칭 플래그에 추가하면 새로운 터미널이 실행됩니다.
KoboldCpp Agent는 또한 타사 백엔드 또는 OpenAI Chat Completions와 호환되는 모든 엔드포인트에 연결할 수 있습니다.

mcp.json 파일을 로드하여 더 많은 도구를 추가할 수 있으며, MCP 도구는 에이전트에게 공유됩니다. 참고: MCP 도구는 KoboldCpp 서버에서 실행되며, Agent 도구는 agent 클라이언트에서 실행됩니다.

도구 호출 확인을 위한 3가지 승인 모드(on/auto/off)가 제공됩니다. 도구 호출을 승인할 때는 주의하십시오.

효과적으로 작동하려면 KoboldCpp Agent는 최소 28k ctx 및 8k gen 양이 필요하지만, 더 큰 값이 권장됩니다. 좋은 경험을 위해서는 최소 12GB VRAM을 갖추는 것을 권장합니다.

여기서 Qwen 3.6 35BA3B를 사용하여 시작할 수 있는 .kcppt 템플릿을 다운로드할 수 있습니다. 최신 KoboldCpp에서 로드하고 실행하기만 하면 됩니다.

AGENTS.md, 컨텍스트 압축(context compaction) 및 기타 많은 기능들을 지원합니다.

Agent에서 /help를 실행하여 더 많은 정보를 얻으세요.

여기 이미지를 정렬한 다음 웹사이트를 생성하는 에이전트의 작은 시연 영상이 있습니다.

음악도 KoboldCpp에서 제작되었습니다.
KoboldCpp 에이전트 쇼케이스
혹시 놓치셨다면, KoboldCpp는 이제 Minimax H3 모델을 사용하여 비디오 생성(참조 이미지를 이용한)도 지원합니다. 이는 사실 이전 릴리스에 포함된 내용이지만, 제가 공유하고 싶어서 재미있는 작은 영상을 만들었습니다.
Minimax H3 in KoboldCpp
공식 KoboldCpp github 릴리스에서 다운로드하세요

그리고 이제 다소 안 좋은 소식이 있습니다: 저는 kobolcpp(dot)com이라는 가짜 피싱 사이트를 막는 데 정말 도움이 필요합니다. 이 웹사이트는 블랙햇 SEO를 사용하여 Google 검색에서 높은 순위를 차지하고, 사람들을 속여 스팸성 팝업을 통해 악성 코드를 다운로드하도록 유도합니다. 저희는 구글에 여러 번 신고했고, 호스팅 업체에도 신고했지만 아무런 소용이 없었습니다. 도움을 주고 싶으시다면 이 링크를 확인해 주세요.
오늘은 여기까지입니다. 건승을 빕니다, concedo / LostRuins.
제출자: /u/HadesThrowaway가 r/LocalLLaMA에 제출함
[링크] [댓글]