LangGraph를 기반으로 구축한 우리의 지원 봇(support bot)이 기괴한 응답을 내놓기 시작했던 날을 저는 여전히 기억합니다. 사용자가 간단한 문제에 대해 도움을 요청하면, 봇은 완전히 관련 없는 주제로 벗어나 버리곤 했습니다. 문제는 봇이 틀린 답을 주는 것이 아니라, 대화의 문맥(context)을 완전히 잊어버리는 것처럼 보였다는 점입니다. 비밀번호 재설정에 관한 질문에 우리 회사의 역사에 대해 장황하게 설명하는 봇을 보기도 했습니다. 마치 봇이 대화 도중에 생각의 흐름을 놓쳐버린 것 같았습니다.

로그를 조사한 결과, 우리는 이 문제가 봇의 자기 수정 (self-correct) 능력 부족에서 기인했다는 것을 깨달았습니다. 봇은 실수를 저질렀지만, 그 실수를 인지하거나 이를 바로잡기 위한 조치를 취하지 못했습니다. 여기서 반성 패턴 (reflection pattern), 특히 비판 노드 (critic node)의 사용이 등장합니다. 핵심 아이디어는 에이전트(agent)가 자신의 행동과 결정을 주기적으로 되돌아보며, 그것이 목표 및 현재 문맥과 일치하는지 평가하도록 하는 것입니다.

우리의 경우, 봇의 응답을 평가하고 그것이 대화와 관련이 있는지 확인하는 비판 노드 (critic node)를 구현했습니다. 만약 비판 노드가 응답이 주제에서 벗어났거나 부정확하다고 판단하면, 자기 수정 (self-correction) 메커니즘을 트리거하여 봇이 실수로부터 회복할 수 있도록 했습니다. 이를 위해 LangGraph에 비판 역할을 할 새로운 노드를 추가하고, add_conditional_edges 메서드를 사용하여 이 노드를 그래프의 나머지 부분과 연결했습니다.

다음은 우리가 비판 노드 (critic node)를 어떻게 구현했는지 보여주는 단순화된 예시입니다:

import langgraph as lg

# 그래프 정의
...

이 코드 스니펫은 우리가 비판 노드 (critic node)를 사용하여 봇의 응답을 평가하고, 필요할 때 자기 수정 (self-correction)을 트리거하는 방법을 보여줍니다. 물론 실제 구현에서는 비판 함수 (critic function)와 자기 수정 메커니즘이 훨씬 더 정교할 것입니다.

Reflection 패턴을 구현하면서 우리가 마주한 한 가지 실질적인 주의 사항(gotcha)은 비판 노드(critic node)가 지나치게 비판적으로 변하지 않도록 보장하는 것이었습니다. 만약 비판 노드가 너무 민감하면 자기 수정(self-correction)을 너무 빈번하게 트리거하게 되어, 봇이 우유부단하거나 불확실해 보이는 결과를 초래할 수 있습니다. 우리는 실수를 바로잡는 것과 봇이 자신감 있게 응답을 제공하는 것 사이에서 적절한 균형을 맞추기 위해 비판 함수(critic function)를 미세 조정(fine-tune)해야 했습니다.

에이전트형 AI (agentic AI) 시스템 개발을 계속해 나가면서, 우리는 에이전트에게 자기 수정을 가르치는 것이 단지 시작일 뿐이라는 점을 깨닫고 있습니다. 내일은 이 개념을 한 단계 더 발전시켜, 에이전트가 자신의 행동을 성찰(reflect)할 뿐만 아니라 자신의 경험으로부터 적응하고 학습할 수 있도록 만드는 방법을 살펴보겠습니다.