로컬 Ollama 모델을 사용하는 오픈 소스 데스크톱 에이전트 앱: Qwen3.5:9b와 Qwen3.8 두 개의 에이전트를 16GB 카드로

⚠️ [IMG:1]

안녕하세요, 여러분.

제가 최근에 흥미로운 프로젝트를 진행하게 되었습니다. 바로 로컬 LLM을 활용하는 오픈 소스 데스크톱 에이전트 앱입니다. 이 앱은 여러 개의 독립적인 '에이전트'를 실행할 수 있게 해줍니다. 각 에이전트는 특정 작업을 수행하도록 설계되어 있습니다.

제가 테스트해 본 모델은 Qwen3.5:9b와 Qwen3.8 두 가지였습니다. 둘 다 로컬에서 Ollama을 통해 구동되는 모델입니다. 이 테스트는 16GB VRAM 카드를 사용하여 진행했습니다.

[IMG:2]

이 앱의 핵심 기능은 여러 에이전트가 협업하는 모습을 시각화하여 보여준다는 점입니다. 마치 하나의 시스템 안에 여러 개의 AI가 각자의 역할을 수행하며 상호작용하는 것처럼 보입니다.

제가 이 테스트를 진행하면서 겪었던 과정과, 특히 성능이나 리소스 측면에서 부딪혔던 한계점들을 솔직하게 공유하고자 합니다. 혹시 비슷한 프로젝트를 진행하시거나 궁금한 점이 있는 분들이 계시면 댓글로 알려주세요!

[IMG:3]

궁금하신 점은 언제든지 질문해 주세요.

감사합니다!