지연 시간 최적화를 위한 웹 에이전트 계획 및 스케줄링용 에이전트 JIT 컴파일

요약

컴퓨터 사용 에이전트(CUA)의 높은 지연 시간과 오류 문제를 해결하기 위해 에이전트 적시 컴파일(Agent JIT Compilation) 방식을 제안합니다. 이 방식은 자연어 작업을 실행 가능한 코드로 직접 컴파일하여 LLM 호출을 줄이고, JIT-Planner와 JIT-Scheduler를 통해 실행 속도와 정확도를 획기적으로 향상시킵니다.

핵심 포인트

• 기존의 순차적인 fetch-screenshot-execute 루프 방식이 가진 높은 지연 시간과 오류 문제를 지적함
• 작업 설명을 LLM 호출, 도구 호출, 병렬화가 포함된 코드로 직접 컴파일하는 JIT 방식 도입
• JIT-Planner를 통해 Browser-Use 대비 10.4배의 속도 향상과 28%의 정확도 향상 달성
• JIT-Scheduler를 통해 OpenAI CUA 대비 2.4배의 속도 향상과 9%의 정확도 향상 달성
• 불변량 강제 도구 프로토콜을 통해 잘못된 도구 사용을 방지하는 상태 요구 사항 지정