FlowBot: 이계층 최적화와 텍스트적 기울기를 통한 LLM 워크플로우 유도

개별 LLM(각각 다른 지시사항과 도구가 추가됨)에 대한 구조화된 호출을 조정하여 특정 목표를 달성하는 LLM 워크플로우는 LLM의 기능을 확장하고 다양한 과제를 해결할 수 있는 강력한 시스템을 구축하기 위한 유망한 길을 제시합니다. 그러나 이러한 워크플로우를 구축하기 위한 기존 접근법들은 일반적으로 인간이 제작한 파이프라인과 프롬프트에 의존하며, 이는 실제 세계 배포에서 상당한 병목 현상을 야기합니다. 어떻게 데이터 기반 방식으로 이러한 워크플로우를 자동으로 유도하고 최적화할 수 있을까요? 본 논문은 LLM 워크플로우를 자동으로 유도하기 위한 간단한 데이터 기반 접근법을 설명합니다. 우리는 워크플로우 유도를 이계층 최적화 문제로 정식화합니다: 상위 루프는 워크플로우의 고수준 스케치(특히 LLM 호출이 어떻게 구조화되어야 하는지)를 최적화하고, 하위 루프는 각 개별 LLM 호출을 하나씩 최적화합니다. 두 루프 모두 '텍스트적 기울기(textual gradients)'로 최적화되며, 하위 루프의 경우 '텍스트적 기울기를 계층별로 역전파(backpropagating)'함으로써 각 구성 요소를 모듈러 방식으로 최적화합니다. 우리는 제안한 extsc{FlowBot}(이계층 최적화와 텍스트적 기울기를 통한 워크플로우 유도) 접근법을 통해 발견된 LLM 워크플로우는 인간이 제작한 워크플로우나 자동으로 생성된 워크플로우를 사용하는 강력한 베이스라인과 경쟁할 수 있는 성능을 보인다는 것을 발견했습니다.