이미 ChatGPT와 Grok에 비용을 지불하고 있습니다. 왜 커스텀 AI 에이전트가 필요할까요?
이미 ChatGPT와 Grok에 비용을 지불합니다. 왜 에이전트를 구축해야 할까요?
라즈코트에 있는 포장 단위 시설의 소유자를 상상해 보세요. 그는 ChatGPT 비용을 지불하고, 아들은 Grok을 사용하며, 회계팀은 Microsoft 365를 이용한 Copilot을 사용합니다. 이들 사이에서 그들은 이메일을 작성하고, PDF 문서를 요약하며, 점심 식사 전에 그의 질문 중 절반에 답할 수 있습니다. 그는 분명히 이것들이 비즈니스에 도움이 된다고 생각합니다.
그래서 누군가 그에게 커스텀 AI 에이전트를 제안했을 때, 그의 반응은 당연합니다. "저는 이미 이것들에 비용을 지불하고 있어요. 왜 또 다른 것이 필요하죠?"
커스텀 AI 에이전트 대 ChatGPT라는 질문에 대해, 저는 실제로 커스텀 에이전트를 구축함에도 불구하고 그에게 동의하는 편입니다. 이 도구들은 올해 훨씬 더 많은 능력을 갖추게 되었습니다. 중요한 것은 이들이 어디에서 멈추는지, 그리고 당신의 작업이 그 선을 넘어 지속될 수 있는지 여부입니다.
현재 ChatGPT, Grok, Copilot이 진정으로 잘하는 것들
먼저 공로를 돌립니다. 커스텀 에이전트와 ChatGPT를 비교하는 대부분의 페이지는 여전히 ChatGPT를 질문에 답하는 챗봇으로 설명합니다. 하지만 이것은 올해 더 이상 사실이 아닙니다.
OpenAI Dots. OpenAI는 2026년 9월 29일 DevDay에서 Dots를 출시했습니다. 이것들은 ChatGPT 내부에 항상 작동하는 에이전트들로, 각각 자체 클라우드 컴퓨터와 브라우저를 가지고 있습니다. 이들은 백그라운드에서 실행되며 사용자의 선호도를 학습하고, GPT-6 Astra를 기반으로 작동합니다. 사용자는 ChatGPT, Slack 또는 Teams에서 이들에게 접근할 수 있습니다. OpenAI에 따르면 Dots는 플러그인을 통해 "4,000개 이상의 앱과 쉽게 연결"될 수 있으며, 계정에 영향을 주거나 정보를 공유하는 작업 전에는 자동 검토를 수행한다고 합니다. 또한 OpenAI는 공정하게도 이것이 "여전히 실수를 할 수 있다"고 말합니다. 현재 Pro 및 Business Premium에 순차적으로 배포되고 있으며, Enterprise 버전은 베타 테스트 중입니다.
Microsoft Copilot. Copilot (이전 명칭: Microsoft 365 Copilot)은 2026 회계연도(FY26) 4분기 결과 발표일인 2026년 7월 29일에 마이크로소프트의 유료 사용자 좌석 3,000만 개를 돌파했습니다. 마이크로소프트에 따르면 Copilot은 사용자의 프롬프트와 Graph 데이터를 기반 모델 학습에 사용하지 않으며, 데이터 보호 추가 약정(Data Protection Addendum)으로 보호받습니다. Copilot Studio는 더 나아가 '모든 공개적으로 사용 가능한 API'에 연결할 수 있는 맞춤형 커넥터를 구축할 수 있게 합니다. 만약 귀사가 이미 Outlook, Excel, Teams에서 운영되고 있다면, 이곳이 강력하게 시작할 수 있는 지점입니다.
만약 당신의 업무가 주요 클라우드 앱 내에서 초안 작성, 리서치, 요약 및 실행하는 것이라면, 이 중 하나로 충분할 수 있습니다. 저는 그것부터 시도해 볼 것입니다.
한계점: 여섯 가지 솔직한 제한 사항
이들 중 어느 것도 버그가 아닙니다. 수백만 개의 기업을 위해 구축된 제품은 귀사의 운영 방식을 알 수 없습니다.
- 방화벽 뒤의 시스템. Dots가 연결하는 4,000개의 앱은 인기 있는 클라우드 앱입니다. 사무실 PC에 설치된 장부 프로그램(Tally on the office PC), 로컬 서버의 12년 된 ERP 또는 내부 데이터베이스는 보통 이 목록에 없습니다. Boomi의 ChatGPT 설정 가이드는 이를 명확히 설명합니다:
2026년 코딩 에이전트에 대한 연구(Bai 외, 스탠퍼드 디지털 경제 연구소 요약)에 따르면, 에이전트 기반 작업은 코드 채팅보다 약 1,000배 더 많은 토큰을 사용했으며, 동일한 작업 비용은 최대 30배까지 차이가 났습니다. 이는 코딩에 관한 것이므로 정확한 수치는 귀하의 비즈니스에 그대로 적용되지는 않겠지만, 대규모 모델 하나로 모든 것을 처리하는 상시 가동 에이전트는 볼륨으로 커지면 비용이 많이 듭니다. 맞춤형 구축(custom build)은 주문 번호 읽기나 문의 분류와 같은 세부 단계를 더 작고 저렴한 모델에 보내고, 큰 모델은 어려운 부분에만 사용하도록 할 수 있습니다.
-
개인 정보 보호 및 인도의 DPDP 규칙. 세 가지 서비스의 비즈니스 티어는 기본적으로 귀하의 데이터를 학습하지 않습니다. 더 조용한 위험은 직원이 클라이언트 데이터를 개인 Free, Plus 또는 Pro 계정에 붙여넣는 경우인데, 이 경우에는 옵트아웃을 선택하지 않는 한 기본적으로 학습이 활성화되어 있다는 것입니다. 인도의 DPDP 규칙은 2025년 11월에 통보되었으며, 핵심 의무(통지 및 동의, 보안 보호 장치, 침해 통지, 국경 간 전송)는 2027년 5월 13일부터 적용됩니다. 또한, OpenAI의 인도 데이터 상주성은 (2025년 11월 기준으로) 저장된 데이터와 추론(inference)이 미국에서만 이루어진다는 것을 다룹니다. 저는 변호사가 아니며 이것은 법적 조언이 아닙니다만, 클라이언트 데이터가 관련된다면 어디에 저장되고 어디서 처리되는지 알아야 합니다. 맞춤형 구축을 사용하면 이 두 가지를 모두 선택할 수 있습니다.
-
종속성(Lock-in). Dots는 OpenAI의 모델에서 실행되며 Grok Bot은 Grok에서 실행됩니다. 다음 분기에 더 좋거나 저렴한 모델이 출시되면, 귀하는 공급업체를 기다려야 합니다. Copilot은 여러 모델 패밀리와 이미 작동하고 있기 때문에 이 점에서 더 공정합니다. 맞춤형 에이전트는 각 작업에 대해 모델을 선택하고 나중에 나머지 부분을 재구축하지 않고도 하나를 교체할 수 있게 해줍니다.
맞춤 AI 에이전트 대 ChatGPT, Grok Bot 및 Copilot 비교 (나란히)
여기에 행별로 비교표가 있습니다. '기성품(off-the-shelf)'이란 Dots, Grok Bot, 그리고 Copilot을 의미합니다.
- 기성 솔루션 (Off-the-shelf): 일반적인 생산성 및 인기 클라우드 앱 내의 작업에 최적화되어 있습니다. 맞춤형 (Custom): 자체 시스템 전반에 걸쳐 실행되는 반복적인 비즈니스 워크플로우에 적합합니다.
- 연결 가능 범위 (Connects to): 플러그인을 통해 수천 개의 인기 앱과 연결되며, Copilot Studio는 공용 API에 커넥터를 추가합니다. 맞춤형: 여기에 더해, 전용 시스템(on-premises) 및 레거시 시스템을 위한 커넥터가 제공됩니다.
- 승인 규칙 (Approval rules): 기성 솔루션: 위험한 작업 전에 내장된 일시 중지 기능이 있습니다 (Grok Bot은 '항상 허용'으로 이 기능을 끌 수 있게 합니다). 맞춤형: 코드로 검사되는 비즈니스 규칙과 원하는 곳 어디에서든 사람의 승인을 거칠 수 있습니다.
- 모델 선택 (Model choice): 기성 솔루션: 공급업체의 모델을 사용하며, Copilot은 여러 개 이상의 모델을 제공합니다. 맞춤형: 단계별로 모델을 지정할 수 있으며, 나중에 교체도 가능합니다.
- 데이터 위치 (Data location): 기성 솔루션: 공급업체의 플랜 및 지역에 의해 설정됩니다. 맞춤형: 사용자가 제공업체와 지역을 선택할 수 있으며, 민감한 단계는 자체 서버에 보관할 수 있습니다.
- 비용 통제 (Cost control): 기성 솔루션: 구독료를 지불하며, 사용량은 공급업체의 방식으로 처리됩니다. 맞춤형: 각 단계가 사용하는 비용을 지불하고 간단한 단계는 더 저렴한 모델로 라우팅할 수 있지만, 구축 및 유지보수 비용도 발생합니다.
ChatGPT가 충분한 경우와 맞춤형 에이전트가 가치가 있는 경우는 언제일까요?
ChatGPT, Grok 또는 Copilot은 다음의 경우에 충분할 가능성이 높습니다:
- 작업 내용이 팀과 사용자 개인을 위한 초안 작성, 조사 또는 요약인 경우.
- 사용하는 도구가 Gmail, Google Sheets, Slack, Microsoft 365, 클라우드 CRM 등 주류(mainstream) 클라우드 앱인 경우.
- 처리량이 적고 실수했을 때 수정 비용이 저렴한 경우.
- 출력물을 어딘가로 보내기 전에 사람이 검토하는 경우.
맞춤형 에이전트는 다음의 경우에 가치가 있습니다:
- 워크플로우가 Tally, 로컬 ERP, 내부 데이터베이스와 같은 전용 시스템 또는 레거시 시스템을 필요로 하는 경우.
- 주당 수백 번 실행되어 토큰 비용이 누적되는 경우.
- 금전이나 고객 데이터가 걸려 있는 경우.
- 일반적인 승인 단계로는 알 수 없는 규칙이 존재하는 경우.
- 여러 단계를 거쳐 여러 시스템에 걸쳐 작동해야 하는 경우.
팁: 워크플로우를 한 페이지에 적을 수 없다면, 아직 에이전트를 구축하지 마세요. 먼저 프로세스를 수정하세요. 그리고 한 달에 다섯 번 정도 발생하는 일이라면, 사람이 결과를 확인하는 ChatGPT나 Copilot으로 충분합니다.
예시: IndiaMART 문의부터 견적서 발송까지의 단계별 과정
제가 커스터마이징을 할 만하다고 생각하는 워크플로우는 이렇습니다. 청동 부속품을 취급하는 Rajkot 공급업체를 상상해 보세요. 이것은 일러스트일 뿐, 실제 고객 사례는 아닙니다.
- IndiaMART에 문의가 도착합니다. 에이전트가 이를 가져와 제품, 수량 및 배송 도시를 읽습니다.
- 사무실 서버의 ERP 또는 Tally에서 로컬 커넥터를 통해 재고와 가격을 확인합니다. 이렇게 하면 시스템이 공용 인터넷에 노출되지 않습니다.
- 귀사의 형식과 조건으로 견적서를 초안 작성합니다.
- 코드가 귀사의 규칙에 따라 초안을 검사합니다: 할인율은 제한 범위 내인지, 수량은 최소 주문 수량보다 많은지, 필수 필드가 채워졌는지 등을 확인합니다. 만약 하나라도 실패하면, 견적서는 사람에게 전달됩니다.
- 사장님은 WhatsApp으로 견적서를 받고 승인하거나 수정합니다.
- 승인이 완료되면, 에이전트가 구매자에게 견적서를 보내고 CRM에 문의와 함께 기록을 남깁니다.
저는 Dots나 Grok Bot이 귀사의 Tally 설정과 관련하여 이것을 할 수 있다/없다고 주장하지 않습니다. 로컬 커넥터와 규칙 검사가 이 시스템을 귀사만의 것으로 만들며, 이는 어떤 플랫폼에서든 맞춤 작업입니다. IndiaMART 측에 대한 내용은 https://dizilus.com/indiamart-lead-automation/에서 더 자세히 다루었습니다.
커스터마이징할 경우, 누가 구축하는가?
현실적인 경로는 세 가지입니다: 자체 개발자, 에이전시(agency), 또는 Microsoft에 깊숙이 관여되어 있고 시스템 접근이 가능한 경우 Copilot Studio를 이용하는 것입니다. 저는 에이전시 방식과 사내 구축 방식을 https://dizilus.com/blog/automation-agency-vs-in-house/에서 솔직하게 비교했습니다.
누가 구축하든, 세 가지 질문을 하세요. 각 단계를 어떤 모델이 실행하는가? 모델이 잘못된 것을 얻으면 어떻게 되는가? 토요일에 문제가 생기면 누가 고치는가?
하나의 워크플로우부터 시작하세요
도구를 선택하는 것부터 시작하지 마세요. 반복적인 워크플로우 하나를 고르고, 모든 단계를 적은 다음, 어떤 시스템을 건드리는지 그리고 어느 단계에서 사람의 판단이 필요한지를 표시하세요.
모든 것이 주류 클라우드 앱 내에 존재한다면, Dots, Grok Bot 또는 Copilot부터 시도해 보세요. 만약 자체 시스템이나 자체 규칙을 건드린다면, 그것이 우리가 구축하는 에이전트 유형입니다. https://dizilus.com/ai-agents/에서 저희가 어떻게 작업하는지 확인하거나, 워크플로우를 [email protected]으로 이메일 주시면 어떤 경로가 적합한지 솔직하게 알려드리겠습니다.
FAQ
ChatGPT, Grok 또는 Copilot이 제 오래된 ERP나 Tally에 연결할 수 있나요?
보통 추가 작업이 필요합니다. 플러그인은 인기 있는 클라우드 앱을 다루며, ChatGPT는 공용 인터넷을 통해 원격 MCP 서버에 연결되므로, VPN 뒤에 있거나 사무실 서버에 있는 시스템은 커넥터(connector) 또는 게이트웨이(gateway)를 구축해야 합니다. Copilot Studio는 데이터 게이트웨이와 일부 빌드 작업을 통해 온프레미스(on-premises) 시스템에 접근할 수 있습니다. 어느 쪽이든, 이는 맞춤형 작업입니다.
제 비즈니스 데이터가 모델 훈련에 사용되나요?
ChatGPT, Grok 및 Copilot의 비즈니스 티어에서는 기본적으로 그렇지 않습니다. ChatGPT Free, Plus 또는 Pro와 같은 개인 플랜의 경우, 옵트아웃(opt out)하지 않는 한 훈련이 기본으로 활성화되어 있으므로, 고객 데이터는 개인 계정에서 제외하세요.
AI 에이전트는 왜 채팅보다 운영 비용이 더 많이 드나요?
에이전트는 계획을 세우고, 도구를 호출하며, 결과를 다시 읽어들이며, 모든 단계가 토큰(token)을 사용합니다. 2026년 코딩 에이전트에 대한 한 연구에 따르면, 에이전트 작업은 코드 채팅보다 약 1,000배 더 많은 토큰을 사용했으며, 동일한 작업 비용은 최대 30배까지 차이가 날 수 있습니다. 맞춤형 빌드는 간단한 단계를 작고 저렴한 모델로 보낼 수 있게 합니다.
ChatGPT가 제 비즈니스에 충분할 때는 언제인가요?
작업이 초안 작성, 연구 또는 주류 클라우드 앱 내의 작업이고, 양(volume)이 적으며, 사람이 결과물을 어디든 보내기 전에 확인하는 경우입니다. 많은 기업들이 그 이상을 필요로 하지 않습니다.
나중에 AI 모델을 변경할 수 있나요?
Dots 또는 Grok Bot의 경우 공급업체의 모델을 사용합니다. Copilot은 이미 여러 모델과 연동됩니다. 맞춤형 에이전트는 각 단계별로 다른 모델을 사용할 수 있으며, 나머지 부분을 재구축하지 않고도 나중에 하나를 교체할 수 있습니다.
맞춤형 AI 에이전트가 ChatGPT 에이전트보다 더 잘하는 것은 무엇인가요?
자체 시스템(온프레미스 포함)에 연결하고, 행동하기 전에 코드에서 비즈니스 규칙을 확인하며, 각 단계별로 사용할 모델을 선택할 수 있고, 데이터를 원하는 곳에 보관합니다. Dots와 Grok Bot도 빠르게 개선되고 있으니, 실제 워크플로우를 기준으로 판단하세요.
원문은 dizilus.com에 게시되었습니다.