현재 90%의 멀티 에이전트 (Multi-Agent) 시스템은 토큰을 낭비하는 과잉 설계이다.

PDF 하나 요약하는 것을 굳이 크롤링, 분할, 요약, 검토, 편집의 5개 에이전트로 쪼갠다고? 두 개의 노드(Node)로 합쳐도 아무 문제 없는데, 억지로 쪼개는 것은 그저 고급스러워 보이기 위함일 뿐이며, 토큰만 15배 더 소모한다. 냅킨 한 장에 명확히 그려낼 수 있는 아키텍처 (Architecture)만이 만들 가치가 있다.

공유 상태 (Shared State)는 더 심각한 문제다. 마치 모두가 난잡하게 적힌 메모장을 공유하는 것과 같아서, 첫 번째 에이전트가 사실 하나를 잘못 적으면 뒤따르는 모든 에이전트가 그것을 진리로 믿고 추론을 이어간다. 이는 단일 에이전트 (Single Agent)의 컨텍스트 부패 (Context Decay)보다 훨씬 더 은밀하게 발생한다.

가장 황당한 것은 동일한 모델을 사용하는 5개의 에이전트가 서로 리뷰 (Review)를 하는 것이다. 이는 그야말로 조직적인 헛소리에 불과하며, 구조는 완벽하게 만장일치로 통과되지만 정답은 모두 틀리게 된다.

진정한 리뷰를 원한다면 모델을 교체하고, 컨텍스트 (Context)를 비운 뒤, 통과된 테스트 결과나 컴파일 결과를 증거로 삼아야 한다.

겉만 화려한 플로우차트 (Flowchart)를 만들지 마라. 오류 없이 제대로 돌아가는 것이 아키텍처 (Architecture)가 고급스러운 것보다 만 배는 더 중요하다.

#AI #Agent #대규모언어모델 (LLM)