당신은 3090을 가지고 있거나, 어쩌면 5090을 가지고 있나요? 아니면 더 가능성 높게 4060 8GB Ti를 가지고 있나요? 로컬 AI (Local AI)를 시도해보고 싶지만, 무엇을 할 수 있고 무엇을 할 수 없는지 모르겠다면 다음을 따르세요.

1. 당신이 사용할 수 있는 최고의 모델을 설치하세요. 만약 3090이나 5090을 가지고 있다면, 그것은 Qwen 27b입니다. 만약 4060이라면, Qwen 35b-3a입니다. 이 포럼을 검색해 보세요, 35b-3a는 8GB 카드에서도 엄청난 성능(RIP)을 보여줄 수 있습니다.
2. OpenRouter 계정을 만드세요. 이것은 당신의 로컬 AI를 실행하는 데 도움을 줄 "거대한 두뇌 (big brain)" 역할을 합니다.
3. Hermes agent harness를 다운로드하고, OpenRouter의 Qwen-3.7 또는 kimi-K3 또는 GLM-5.2에 연결되는 architect 프로필을 설정하세요.
4. Qwen-27b든 Qwen-35b-3a든 당신의 로컬 모델에 연결되는 coder, worker, 그리고 browser-reviewer를 위한 Hermes 프로필을 설정하세요.
5. (OpenRouter의 좋은 모델에 연결된) architect 프로필을 위한 SOUL.md를 설정하여, 그 역할이 계획(PLAN)을 세우는 것임을 매우 명확히 하세요 (이 부분이 로컬 에이전트가 거대 모델을 따라올 수 없는 지점입니다). 그리고 Hermes의 delegate_task 도구를 사용하여 하위 에이전트(subagents)를 실행하도록 하세요. 그것은 설계자(architect)이자 위임자(delegator)입니다. 코드베이스를 스캔하기 위해 하위 에이전트를 보내라고 명령하세요. 하위 에이전트를 사용하여 단계별 구현 계획을 세우라고 명령하세요. 코드를 직접 작성하지 말고, 하위 에이전트 코더(subagent coders)를 사용하라고 명령하세요.
6. 다음 Hermes 세션을 다음과 같이 시작하세요: (CLI를 사용하는 경우) Hermes -p architect. 몇 가지 프롬프트를 실행하고 그것이 당신의 로컬 AI를 위해 하위 작업(sub-tasks)을 보내는 것을 지켜보세요.
7. 이익을 얻으세요 (profit).

제출자: /u/fire_inabottle [link] [comments]