HOT TAKE: 로컬 모델 + 에이전트 해르네스는 이제 초급 IT 전문가 수준의 작업을 인수할 수 있습니다.

이 게시글은 약간 '노인'의 태도를 띠게 될 것입니다. 왜냐하면… 저는 더 나이가 많기 때문입니다. 만약 그런 스타일을 좋아하지 않는다면, 자유롭게 건너뛰셔도 됩니다.

저는 이 서브reddit에 약 3 년간 기여해 왔지만, 제가 곧 말하려는 내용에 대해 이 게시글이 아마도 무시무시하게 하위 투표될 것 같아 두려운 마음이 듭니다: 지난 한 주 동안 Hermes Agent harness 에서 Qwen3.6 27b 를 실행한 후, 저는 이제 로컬 모델의 새로운 세대가 올바른 에이전트 해르네스 (agent harness), 올바른 도구 및 권한을 갖춘 경우 매우 효과적으로 초급 IT 전문가 수준의 작업을 처리할 수 있음을 깨달았습니다. 한 달 전에는 '아니오'라고 했겠지만, 지금은 확실히 그렇습니다.

저는 거의 30 년간 IT 업계의 거의 모든 수준에서 일해 왔으며, 몇日前에 Hermes Agent (모델로 Qwen3.6 27b 를 사용) 에 제 이전에 초급 수준의 IT 관리자에게 맡겼을 작업 목록을 넘겨주었고, 저는 그저 그것을 진행하도록 방치했습니다. 그리고 그것은 완전히 이해하고 완벽하게 수행했습니다.

여기서 패러프레이징을 하지만, 저는 에이전트에 거의 "이 시스템을 최신 패치 수준으로 업데이트하고, Docker 를 설치하고, 이 5 개의 다른 GitHub 저장소를 로드하여 모두 로컬 모델을 사용하도록 설정하고, 모든 서버 컨테이너 및 관련 서비스를 시작하고 완료할 때 알려달라"고 요청했습니다.

그리고 그것은 정확히 무엇을 했는지 기억하지 못합니다. 물론,途中에 약간의 걸림돌이 있었지만, 그것들을 모두 극복하거나 (초급 관리자처럼) 제 승인을 요청했지만, 제 개입이 거의 필요 없도록 계속 진행했습니다. 다시 말하지만, 저는 프론티어 모델을 사용하지 않았고, GB10 DGX Spark 클론에서 실행되는 로컬 Qwen3.6 27b 만 사용했습니다.

그것은 초급 IT 관리자가 아마도 3 시간 걸릴 일을 1 시간 반 만에 수행했습니다. 엄청난 시간 절약은 아니지만, 저에게 확실한 노동 절감으로 인해 저는 그 지루한 일을 대신 다른 작업을 수행할 수 있었습니다.

여기서 벽에 쓰인 글자를 봅니다. 저는 대형 소프트웨어 개발자, IT 인프라 장비 제조사 등이 소형 로컬 호스팅 "관리 에이전트"를 구축하기 시작할지 얼마 되지 않았다고 생각합니다. 이는 저수준 파라미터 카운트를 가진 세밀하게 조정된 SLM 과 LLM 을 배경 (또는 API 를 통해) 효율적으로 실행하고 시스템 관리자가 일반적으로 처리하는 문제를 모니터링하고 해결합니다. 시스템 관리자 직접은 대체되지 않을 것이지만, 이제 1 명의 관리자는 관리 AI 에이전트를 활용하여 더 많은 서버를 지원할 수 있으므로 X 개의 서버를 지원하는 데 필요한 관리자의 비율이 크게 변할 것입니다.

물론, 관리자가 게으르며 YOLO 모드에 실행될 때 주의 사례와 재앙적인 AI 오오피스가 있을 것입니다. 아마도 AI 에게 대체될 것을 두려워하고 무능함을 증명하기 위해 물건을 파손하고 AI 를 비난하려는 관리자들의 일부 파괴적 행동이 있을 것입니다. 시간이 지나면, 저는 이러한 문제가 해결될 것이라고 생각합니다.

저는 IT 전문가로서 우리가 취할 최선의 전략은 AI 에이전트 기술을 배우고 활용하여 10 배의 출력을 얻어 관련성과 유용성을 유지하는 것입니다. 그리고 WD-40 캔을 항상 지니며 필요할 때 기계에 윤활유를 주어야 합니다. 누군가가 기계에 윤활유를 주어야 하지 않나요?

진지하게 말하자면, 우리 AI 전문가의 소수 집단 외에는 사람들이 앞으로 어떤 일이 일어날지 제대로 이해하지 못한다고 생각합니다. 그것은 AI 에이전트가 점차 더 많은 작업을 수행할 책임 맡게 되면서 서서히 사라지는 과정이 될 것입니다. 지난 달에 출시된 모델과 툴들은 서로 다르지만, 에이전트 랭프 루프는 끈질기고 이전보다 훨씬 적은 수의 침묵 실패가 있었습니다. 저는 이제 'AGI 를 느끼고 있습니다' LOL.

저는 전에 틀렸던 적이 있습니다 (내 아내가 알려줄 것입니다) 하지만 여기에서 의견을 제시하고 싶었습니다. 커뮤니티 구성원들이 어떻게 생각하고 느끼는지 확인해 보고자 합니다. 여러분은 어떻게 생각하시나요?