Qwen 27B에서 클라우드 에이전트로 이동하는 경험은 눈을 뜨게 했지만, 후회는 없습니다.

이 게시글이 조금 길 수도 있습니다. 쓸데없는 말은 건너뛰겠습니다. 하지만 나쁘지 않습니다. 또한, 저는 오랫동안 Qwen 사용자였습니다. 제 기록들을 확인해 보세요. 그렇다고 해도...

저는 5월 31일경 Qwen 3.5로 에이전트(agentic) 여정을 시작했습니다. 이전에 에이전트에 대해 들어본 적은 있었지만, 당시 클라우드 멤버십이 없어 가지고 놀 기회가 없었습니다. 저는 대부분의 코딩을 free 서비스인 gemini와 claude sonnet을 사용해 했습니다. 정말 재미있었습니다.
Qwen 3.5가 출시되었을 때, 로컬 모델이 마치 클라우드처럼 느껴진 것은 처음이었습니다. 물론 지능 수준이 같지는 않았지만, 그렇게 멀게 느껴지지는 않았습니다. 그래서 저는 제가 할 수 있는 모든 것을 하드코어하게 배우는 데 몰두했습니다.
저는 hermes, pi 또는 다른 것을 따르기보다는 저만의 인프라/하네스(harness)를 구축하기로 결정했습니다. 그렇게 한 것이 기쁩니다. 왜냐하면 그것이 저에게 너무 많은 것을 가르쳐 주었기 때문입니다. 모든 것을 처음부터 배워야 했기 때문에 어려웠고, 과정은 극도로 스트레스 받고 도전적이었지만, 그 과정에서 얻은 지식은 충분히 가치가 있었습니다. 저는 이전에 상상하지 못했던 방식으로 아이디어를 구상하고 전략을 구현할 수 있게 되었고, 솔직히 말해서 클라우드 모델로 작업했다면 지금 제가 아는 것의 아주 작은 부분조차 배웠지 않았을 것이라고 생각합니다. 왜냐하면 클라우드 모델들은 결과물을 한 번에 해결해 주어(one-shot), 성장할 기회인 도전 과제를 저에게 빼앗았을 수도 있기 때문입니다.

Qwen 3.6 27B가 출시된 후 상황은 더욱 좋아졌습니다. 그 이후로 사람들은 Qwen의 찬사를 보내며, 이것이 클라우드 모델와 얼마나 가까운지에 대해 이야기했습니다. 저 역시 그리 멀지 않다고 느꼈습니다. 저는 Qwen을 칭찬하고 제 경험을 공유하는 게시글을 상당히 많이 작성했고, 그 글들은 진실되고 진정성이 있었습니다.

하지만 자신이 클라우드 구독을 취소하고 Qwen으로 대체한다고 주장하는 모든 사람들이 과한 행동입니다. 그 사람들은 a) 봇이거나, 또는 b) 너무 단순한 사용 사례를 가지고 있어서 구독료를 낭비했던 사람들일 뿐입니다. 왜냐하면 에이전트적이고 약간 복잡한 어떤 작업을 클라우드로 사용해 본 사람은 다시 로컬을 보면서 그 경험에서 벗어나지 않을 것이기 때문입니다.

Qwen 덕분에 제가 이 분야에 발을 들이고 여정을 시작할 수 있게 되어 정말 감사합니다. 하지만 제 야망이 어느 지점에 이르자 Qwen만으로는 너무 많은 실수 없이 그곳까지 도달하는 것이 불가능하다는 것을 깨달았습니다. 필요가 복잡해질수록 '빛'은 사라졌습니다. 여전히 매우 유능하지만, 저는 그 지능을 높일 몇 가지 방법을 알아냈습니다 (물론, 하네스(harness)와 여러 에이전트를 사용해서 코어 모델의 지능을 훈련 없이 높일 수 있지만, 그것은 또 다른 이야기입니다). 하지만 시간이 문제였습니다. 저는 Qwen의 어리석음에 극도로 좌절하고 욕을 내뱉기 시작했습니다.

저는 코드 작업에 클라우드 모델들을 사용해 왔지만, 그들은 에이전트적이지 않았습니다. 그런데 여동생이 자신의 chat-gpt 구독을 쓰게 해줘서 마침내 마음을 열고 한번 시도해 보기로 결정했습니다. 긴 이야기는 생략하고 - 이곳 레딧은 로컬에 관한 것이지 클라우드가 아니기 때문에 존중의 의미에서 말씀드리자면, 완전히 다른 경험이었다고 말할 수 있습니다. 정말, 정말 좋은 경험이었습니다. 제 프로젝트가 이제 진행되고 있고 많은 작업을 처리하고 있으며, 비현실적으로 느껴집니다. 로컬 에이전트와 클라우드 에이전트 사이에는 실제적인 차이가 있습니다.

그래서 여러분이 모두들 '클라우드는 끝났다'고 말하는 것을 들을 때, 그들은 아마 인간이 아닐 것입니다. 왜냐하면 그것은 같은 범주에 속하지 않기 때문입니다. 저는 단지 Sol light를 사용하고 있는데, 정말 엄청납니다. Sol Medium이나 Astra가 어떤지는 상상조차 할 수 없습니다.

저는 로컬 방식을 포기할 생각이 전혀 없습니다. 저는 Sol을 사용하여 제 하네스를 더 빠르고, 더 똑똑하고, 더 좋게(제 최고의 Grimlock 목소리로) 발전시키는 데 도움을 주고 있습니다. 저의 로컬 에이전트와 함께 땀과 눈물을 흘리며 작업했고, 제가 위해 구축한 새로운 두뇌로 얼마나 개선될지 기대가 됩니다. 그리고 저는 로컬 방식을 최대한으로 만들기 위한 방법을 계속 찾아나갈 것입니다. 그리고 여러분들처럼, 로컬과 SOTA(State-of-the-Art) 사이의 격차가 좁혀질 것이라는 희망을 가지고 있습니다.

이 모든 과정을 통해 제가 배운 것은, 만약 작동 원리를 이해하지 못한 채 단지 무언가를 끝내거나 만들고 싶다면, 클라우드를 선택하라는 것입니다.

하지만 성장하고 사물이 어떻게 작동하는지 더 잘 이해하며, 각 도전을 통해 더 큰 힘을 느끼고 싶다면 로컬(local) 방식을 선택하세요.

Grunge
P.s. - 클라우드 환경에서도 배울 수 있다는 의미는 아닙니다만, 확실히 저를 지식 확장을 강요했던 몇몇 막다른 길들을 겪지 않게 해줬습니다.

제출자: /u/GrungeWerX
[link] [comments]