
AI 채팅만 사용할 수 있는 현장에서도 이만큼은 할 수 있다 ― AI 오케스트라 · AI 에이전트 · AI 채팅의 차이와 실전 활용
요약
보안 정책 등으로 AI 에이전트 사용이 제한된 환경에서, AI 채팅만을 활용해 에이전트와 유사한 워크플로우를 구축하는 방법을 제시합니다. 사람이 'Human in the Loop'로서 조작 역할을 담당하며 업무 공정을 세밀하게 나누는 설계의 중요성을 강조합니다.
핵심 포인트
- AI 에이전트의 사고방식을 채팅 환경에 이식 가능
- Human in the Loop: 사람이 조작을 담당하여 에이전트 효과 구현
- 업무 공정을 세밀하게 분할하여 AI와 사람의 역할 명확화
- 컨텍스트 관리를 통해 지속적인 업무 흐름 유지
「AI 에이전트 (AI Agent)가 편리한 것은 알겠다. 하지만 회사에서는 사용할 수 없다.」
최근 이러한 목소리를 자주 듣게 됩니다.
보안이나 거버넌스 관점에서 브라우저 조작이나 파일 조작이 제한되어 있거나, 이용할 수 있는 AI 서비스가 ChatGPT와 같은 채팅 AI뿐인 기업은 적지 않습니다.
그렇기 때문에 「AI 채팅으로는 AI 에이전트만큼의 업무 개선을 할 수 없다」라고 생각하기 쉽습니다.
하지만 본고에서 전달하고 싶은 것은, AI 에이전트 그 자체는 사용할 수 없더라도 그 사고방식은 도입할 수 있다는 것입니다.
실제 현장에서는 사람이 AI의 수족이 됨으로써 AI 에이전트에 가까운 워크플로우 (Workflow)를 구축할 수 있습니다.
먼저 혼동하기 쉬운 용어를 정리하겠습니다.
| 레이어 | 주요 역할 | 예 |
|---|---|---|
| AI 채팅 | 사람과의 대화 · 문장 생성 · 분석 | ChatGPT, Claude, Gemini |
| ... | ... | ... |
이미지로 나타내면 다음과 같습니다.
AI 오케스트라 (AI Orchestra)
┌──────────────────────┐
│ AgentA AgentB AgentC │
...
AI 채팅은 「생각하는 것」을 잘합니다.
AI 에이전트는 「생각하고 움직이는 것」을 할 수 있습니다.
AI 오케스트라는 「여러 AI에게 일을 할당하는 지휘자」와 같은 역할을 하게 됩니다.
기업에서는 다음과 같은 이유로 AI 에이전트를 도입하지 못하는 경우가 있습니다.
- 보안 정책 (Security Policy)
- 인터넷 접속 제한
- 파일 반출 제한
- SaaS 이용 제한
- 비용
- 승인 프로세스 (Approval Process)
그 결과,
「ChatGPT만 사용해 주세요」
라는 환경이 되는 것도 드문 일이 아닙니다.
하지만 그것이 AI 활용을 포기할 이유는 되지 않습니다.
AI 에이전트가 수행하는 처리를 분해하면,
생각한다
↓
조작한다
...
라는 루프 (Loop)가 됩니다.
AI 채팅에서도 이 루프는 재현할 수 있습니다.
AI
↓
「다음은 ○○해 주세요」
...
즉,
조작만을 인간이 담당한다
는 형태입니다.
이는 「Human in the Loop (인간이 처리에 개입하는 방식)」로서 많은 AI 시스템에서도 채택되고 있는 사고방식입니다.
여기서 중요한 것은 AI에게 한 번에 모든 것을 맡기려 하지 않는 것입니다.
예를 들어 규정 작성이라면,
규정을 전부 만들어줘
가 아니라,
① 기존 규정을 분석
↓
② 요건을 정리
...
와 같이 공정을 세밀하게 나눕니다.
그러면,
- AI가 잘하는 부분
- 사람이 확인하는 부분
이 명확해집니다.
이 분할이야말로 AI 활용에서 가장 중요한 설계입니다.
ChatGPT 등에는 프로젝트 기능이나 장기적인 컨텍스트 관리 (Context Management) 기능이 있습니다.
그곳에,
- 가이드라인
- 사내 규칙
- 과거 성과물
- 템플릿
- 관리 대장
- 용어집
등을 등록해 두면 매번 다시 설명할 필요가 없습니다.
나아가,
자료 A
↓
분석
...
라는 흐름을 사람이 가교 역할을 하며 진행함으로써 일련의 업무를 지속할 수 있습니다.
AI 스스로가 파일을 자동으로 찾아다니는 것은 아니지만, 사람이 필요한 정보를 적절한 타이밍에 전달함으로써 결과적으로 AI 에이전트에 가까운 거동을 실현할 수 있습니다.
AI 오케스트라라고 하면 대규모 시스템을 상상하기 쉽지만, 본질은 「역할 분담」입니다.
예를 들어,
| 역할 | 담당 |
|---|---|
| 요건 정리 | AI |
| ... | ... |
와 같이 역할을 나누는 것만으로도 작은 오케스트레이션 (Orchestration)이 성립합니다.
장래에 AI 에이전트를 이용할 수 있는 환경이 되면, 사람이 담당했던 부분을 순차적으로 교체해 나가면 되기 때문에 현재의 운용이 헛수고가 되지도 않습니다.
중요한 것은 「AI에게 무엇을 맡길 것인가」뿐만 아니라 「사람이 어디에서 개입할 것인가」를 설계해 두는 것입니다.
AI 활용이라고 하면 최신 AI 에이전트나 멀티 에이전트 (Multi-Agent) 환경만을 주목하게 됩니다.
하지만 많은 기업에서는 아직 AI 채팅이 중심입니다.
그렇기에,
- 업무를 세밀한 프로세스로 분할한다
- AI와 사람의 역할을 정리한다
- 프로젝트 기능이나 지식 (Knowledge)을 활용한다
- 사람이 AI의 수족이 되어 처리를 연결한다
라는 설계가 큰 가치를 창출합니다.
AI 에이전트를 사용할 수 있는지 여부보다, AI를 전제로 업무를 설계할 수 있는지 여부가 향후 생산성을 좌우하는 중요한 포인트가 될 것입니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 Qiita AI의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기