MacBook Pro M5에서 로컬 에이전트(Local agents)가 마침내 실용적으로 느껴지기 시작했습니다

새로 팔로우할 분들을 위한 실시간 체크 (X): 저는 한동안 에이전트 워크플로우 (agentic workflows)를 위한 로컬 모델 (local models)에 대해 상당히 비관적이었습니다. 모델이 쓸모없어서가 아니라, 실제 사용 시 클라우드 모델 (cloud models)에 비해 너무 느리거나, 너무 취약하거나, 혹은 너무 제한적이라고 느껴졌고, 무작위로 반응을 멈추는 경우가 많았기 때문입니다. 특히 로컬 에이전트 (local agents), 브라우저 툴링 (browser tooling), 파일 작업 (file operations), 그리고 실제 다단계 워크플로우 (multi step workflows)와 함께 사용할 때 더욱 그러했습니다.

하지만 이번 설정은 진정한 돌파구 (breakthrough)를 보고 있다고 솔직하게 느낄 수 있는 첫 번째 설정입니다.

저의 현재 설정:

• MacBook Pro M5 (128 GB 통합 메모리 (unified memory) 탑재)
  (비록 이 특정 설정에서는 32 GB 통합 메모리만으로도 충분하겠지만 말입니다)
• 로컬 에이전트 (Local agent): Pi Agent
• 로컬 모델 (Local model): Qwen3.6 35B A3B 6bit
• 런타임 (Runtime): oMLX v0.4.2rc1 또는 최신 버전
• 대체 런타임 (Alternative runtime): LM Studio Version 0.4.16+1 또는 최신 버전
• 에이전트 툴링 (Agent tooling): Agent Reach

위 버전들은 매우 중요합니다. 저는 이것들을 선택 사항으로 취급하지 않을 것입니다. 왜냐하면 최근의 버그 수정 (bugfixes)과 개선 사항들이 매우 눈에 띄는 차이를 만들기 때문입니다. 이전 버전들은 이와 같은 로컬 에이전트 워크플로우 (local agent workflow)를 수행하기에 충분히 안정적이지 않거나, 충분히 빠르지 않거나, 혹은 충분히 매끄럽지 않았습니다.

Agent-Reach 또한 큰 차이를 만들었습니다. 이는 로컬 에이전트와 Reddit, X, LinkedIn, 웹(web)에 대한 인터넷 접속 간의 상호작용을 훨씬 더 쉽고, 매우 빠르고(snappy), 더 실용적으로 만들어 줍니다. 이전에는 어색하거나, 느리거나, 거의 현실적으로 사용 불가능하게 느껴졌던 몇몇 기능들이 이제는 실제로 자연스럽게 느껴지는 방식으로 작동합니다.

초기 설정은 꽤 쉽습니다. 설정 단계에서 요구하는 사항들을 그대로 수행하기만 하면 됩니다. oMLX를 통한 Qwen3.6 35B A3B 6bit 사용 시, 이 기기에서 평균 약 102 tok/s를 얻고 있습니다. 이 부분이 저를 가장 놀라게 한 대목입니다. 단순히 "로컬에서 실행되는" 수준이 아니라, 실제로 작업하기에 충분히 빠르다고 느껴집니다.

워크플로우가 실제 환경에서 얼마나 반응성이 좋은지 보여주기 위해 짧은 화면 캡처를 녹화했습니다. 저에게 있어, 노트북에서의 로컬 에이전트 기반 작업 (local agentic work)이 단순히 실험하는 대상이 아니라, 진지하게 사용할 수 있는 무언가로 느껴지는 것은 이번이 처음입니다.

다른 분들도 특히 Qwen3.6, oMLX, LM Studio, Pi Agent, 또는 Agent Reach를 사용하여 유사한 설정을 시도하고 계신지 궁금합니다. /u/gevezex 님이 제출함 [link] [comments]