AI 채팅을 사용하는 것은 AI 에이전트를 사용하는 것과 같지 않습니다

최근 저는 몇몇 시청자들과 오프라인에서 만나 그들이 일상 업무에서 AI를 어떻게 사용하는지에 대해 이야기를 나누었습니다. 한 가지 패턴이 명확했습니다. 그들은 AI를 사용하고 있지만, 대부분 챗봇 (Chatbot)으로서 사용하고 있었습니다.

질문을 합니다. 답변을 얻습니다.

다시 써달라고 요청합니다. 더 깔끔한 문단을 얻습니다.

요약을 요청합니다. 요약을 얻습니다.

이것은 유용합니다. 하지만 생산성 업무를 위해 AI 에이전트 (AI Agent)를 사용하는 것과는 다릅니다.

만약 여러분이 AI가 로컬 파일, 프로젝트 노트, 회의 기록 또는 재사용 가능한 지식 베이스 (Knowledge Base)를 도와주기를 원한다면, 유용한 단위는 단일 답변이 아닙니다. 그것은 워크플로 (Workflow)입니다.

채팅은 질문에 답합니다. 에이전트는 워크플로가 필요합니다.

AI 채팅의 가장 작은 단위는 질문과 답변입니다.

AI 생산성의 가장 작은 단위는 프로세스 (Process)입니다:

• 목표 이해
• 자료 검토
• 단계 세분화
• 누락된 정보 요청
• 실행
• 결과물이 사용 가능한지 확인

예를 들어:

이 폴더에 있는 프로젝트 문서들을 정리해 주세요.

이것은 사람에게는 명확하게 들리지만, 많은 결정 사항들을 열어두게 됩니다:

• 어떤 파일이 프로젝트 문서로 간주되는가?
• 날짜, 주제, 회의, 요구사항 또는 결과물별로 그룹화해야 하는가?
• 중복된 콘텐츠는 병합해야 하는가?
• 출력물은 Markdown 요약, 표, 또는 폴더 구조여야 하는가?

사람들이 에이전트가 신뢰할 수 없다고 말할 때, 문제의 일부는 우리가 여전히 그들에게 챗봇처럼 말하고 있다는 점입니다. 데스크톱 에이전트에는 운영 규칙이 필요합니다.

실행하기 전에 가르치세요

저는 첫 번째 실행을 새로운 비서를 온보딩 (Onboarding)하는 것처럼 다루는 것을 선호합니다.

최종 결과물을 요청하는 것으로 시작하지 마세요. 계획을 요청하는 것부터 시작하세요:

"일련의 프로젝트 문서들을 정리하는 것을 도와주길 바랍니다. 아직 실행하지 마세요.

먼저, 다음을 알려주세요:
..."

중요한 부분은 문구(wording)가 아닙니다. 중요한 것은 에이전트(agent)가 행동하기 전에 몇 가지 확인 절차를 강제하는 것입니다:

• 목표를 재진술하여, 오해가 초기에 드러나도록 합니다.
• 작업을 세분화하여, 실행 경로(execution path)가 보이도록 합니다.
• 인간의 확인이 필요한 질문들을 나열합니다.
• 검증(validation)을 정의하여, 결과물을 단순히 수용하는 대신 확인할 수 있도록 합니다.

오직 그 후에만 실행하도록 해야 합니다.

실행 과정을 재사용 가능한 메모리로 저장하기

흔한 습관은 결과물을 받은 뒤 작업을 종료하는 것입니다.

이는 가치를 제대로 활용하지 못하고 남겨두는 일입니다.

작업이 끝난 후, 에이전트에게 해당 실행 과정을 재사용 가능한 플레이북(playbook)으로 만들라고 요청하세요:

• 시나리오(Scenario): 이 워크플로(workflow)가 언제 사용되어야 하는지.
• 입력값(Inputs): 일반적으로 어떤 파일, 컨텍스트(context), 제약 조건(constraints)이 필요한지.
• 단계(Steps): 작업의 표준 순서.
• 인간 확인 지점(Human checkpoints): 추측하는 대신 반드시 질문해야 하는 지점.
• 수락 확인(Acceptance checks): 결과물이 사용 가능한지 판단하는 방법.
• 리스크(Risks): 놓치거나, 잘못 분류하거나, 과도하게 요약하는 경향이 있는 부분.
• 트리거 규칙(Trigger rule): 어떤 미래의 요청이 이 워크플로를 활성화해야 하는지.

그런 다음 트리거 규칙을 장기 메모리(long-term memory)나 지속적인 규칙(persistent rules)에 저장하세요:

내가 여러 개의 프로젝트 문서를 업로드하고 아카이빙(archiving), 요약, 통합 또는 재사용 가능한 프로젝트 지식 베이스 구축을 요청할 때, 즉시 최종 보고서를 생성하지 마세요.

먼저, 프로젝트 문서 아카이빙 플레이북을 사용하세요. 작업 세분화 내용, 내가 확인해야 할 정보, 분류 기준, 그리고 검증 방법을 출력하세요.
...

이 지점이 바로 에이전트가 채팅과 다르게 느껴지기 시작하는 부분입니다. 다음에 유사한 작업이 나타나면, 에이전트는 처음부터 당신의 선호도를 추측할 필요가 없습니다.

연습해야 할 기술은 워크플로 사고 (workflow thinking) 입니다

첫 번째로 유용한 습관은 완벽한 프롬프트 (prompt) 하나를 작성하는 것이 아닙니다.

상호작용 모델 (interaction model)을 바꾸는 것입니다:

1. 작업 목표를 정의합니다.
2. 에이전트 (agent)가 단계를 나누도록 합니다.
3. 필요한 경우 인간의 확인을 요청하도록 만듭니다.
4. 결과가 어떻게 검증될지 설명하도록 만듭니다.
5. 실행 후에는 그 과정을 재사용 가능한 메모리 (memory)로 전환합니다.

AI와 채팅하는 법을 아는 것은 에이전트를 사용하는 법을 아는 것과 같지 않습니다. 에이전트를 사용하는 것 또한 소원을 비는 것과는 다릅니다.

작고 반복적인 작업부터 시작하세요. 첫날부터 완전한 자동화 (automation)를 목표로 하지 마세요. 검증 가능한 워크플로 (workflow) 하나를 가르치고, 저장하고, 재사용하세요.

전체 정식 버전:

https://kunpeng-ai.com/en/blog/agent-vs-ai-chat-productivity/