**챗봇 (Chatbot)**은 질문에 답합니다.
**AI 에이전트 (AI Agent)**는 작업을 수행합니다.

단순해 보이지만, 이 차이는 LLM (Large Language Models)을 사용하여 시스템을 설계하고, 구축하고, 배포하는 방식의 모든 것을 바꿉니다.

Houston + Composio를 사용하여 몇 달간 실험한 끝에 제가 배운 것은 다음과 같습니다:

개념적 차이

**챗봇 (chatbot)**은 대화 속에 존재합니다:

• 입력을 받습니다
• 텍스트를 생성합니다
• 텍스트를 반환합니다
• 끝.

**에이전트 (agent)**는 메모리와 도구를 갖춘 시스템입니다:

• 입력을 받습니다 (또는 자동으로 검색합니다)
• 어떤 도구를 사용할지 결정합니다
• LLM 외부에서 동작을 실행합니다
• 상호작용 간에 상태 (state)를 유지합니다
• 결과로부터 학습합니다

실질적 차이

챗봇: "Juan에게 이메일을 써줘"
→ 텍스트를 반환함 → 당신이 복사함 → 당신이 붙여넣음 → 당신이 전송함

...

에이전트의 4가지 구성 요소

1. 인지 (Perception)

다양한 소스로부터 정보를 받습니다:

• 외부 API
• 데이터베이스 (Databases)
• 업로드된 파일
• 웹훅 (webhooks)
• 이전 대화

2. 추론 (Reasoning)

LLM이 의사결정을 조율하지만, 유일한 두뇌는 아닙니다. 다음을 결정합니다:

• 어떤 정보가 필요한지
• 어떤 도구를 사용할지
• 언제 행동할지
• 언제 일시 중지할지 (human-in-the-loop)

3. 행동 (Action)

실제 세상에서 무언가를 실행합니다:

# 이것이 도구 호출 (tool calling)입니다
agent.call_tool("send_email", {
    "to": lead["email"],
...

4. 메모리 및 상태 (Memory and State)

실행 간에 컨텍스트 (context)를 유지합니다:

• 지난번에 무엇을 했는지
• 무엇이 작동했고 무엇이 작동하지 않았는지
• 사용자의 선호도
• 워크플로 (workflow)의 진행 상황

가장 흔한 실수

"AI 에이전트를 구축했습니다."

아니요. 당신은 더 나은 프롬프트 (prompt)를 가진 챗봇을 구축한 것입니다.

진정한 에이전트는 도구 호출 (tool calling), 지속적인 상태 (persistent state), 그리고 **LLM 외부의 실행 (execution outside of the LLM)**을 갖추고 있습니다. 단순히 텍스트만 생성하고 있다면, 그것은 정교한 챗봇이지 에이전트가 아닙니다.

구체적인 예시

지원(Support) 챗봇:

• "어떤 문제가 있는지 말씀해 주세요"
• "그 문제를 도와드리겠습니다"
• 끝.

지원(Support) 에이전트:

1. 메시지 수신
2. 지식 베이스 (Knowledge Base) 조회
3. 고객 이력 검토
4. 맞춤형 응답 생성
5. 모르는 경우, 시스템에 티켓 (Ticket) 생성
6. 관련 담당자에게 알림
7. 개선을 위해 상호작용 기록

시작하는 방법

챗봇을 에이전트로 전환하는 가장 간단한 방법은 다음과 같습니다:

# 이전 (챗봇)
response = llm.chat("이메일을 보내줘")

...

차이점: 이제 당신의 코드가 **결정(decide)**하고 **행동(act)**합니다. LLM은 단지 콘텐츠를 생성하는 것을 도울 뿐입니다.

결론

만약 당신의 "에이전트"가 질문에 답변만 한다면, 그것은 챗봇입니다. 하지만 다음과 같은 일을 할 수 있다면:

• 채팅 외부에서 행동 수행 (Take actions outside of the chat)
• 상태 유지 (Maintain state)
• 실제 도구 호출 (Call real tools)
• 결과에 기반한 반복 (Iterate based on results)

...그렇다면 당신은 에이전트를 보유한 것입니다.

저는 AI에 대한 학습 내용을 기록하고 있습니다. AI 에이전트를 탐구하고 계신다면, 언제든 대화 환영합니다.

#AIAgents #LLMs #ToolCalling #SoftwareEngineering