STANFORD가 AI 에이전트(AI agents)를 위한 Git을 구축했습니다.

그리고 이것은 올해 AI 에이전트(AI agents)를 위한 가장 큰 업그레이드 중 하나가 될 수도 있습니다.

오늘날, 만약 AI 에이전트(AI agent)가 10번째 단계에서 실수를 한다면...

...보통은 에이전트가 스스로 회복하게 두거나 전체 실행을 다시 시작해야 합니다.

두 방법 모두 토큰(tokens), 시간, 그리고 연산 자원(compute)을 낭비합니다.

문제는 무엇일까요?

에이전트 실행(Agent runs)은 대부분 단순한 채팅 로그(chat logs)에 불과하다는 점입니다.

에이전트는 무슨 일이 일어났는지는 기억하지만...

...실제 런타임 상태(runtime state)는 기억하지 못합니다.

Git은 파일을 복구합니다.

하지만 메모리(memory), 실행 중인 프로세스(running processes), 데이터베이스(databases), 또는 KV 캐시(KV cache)를 복구하지는 않습니다.

Stanford의 새로운 프로젝트인 Shepherd는 에이전트 런타임(agent runtime) 전체를 스냅샷(snapshots)으로 찍습니다.

따라서 다시 시작하는 대신...

이전 체크포인트(checkpoint)에서 포크(fork)하여 정확히 동일한 상태에서 계속 진행할 수 있습니다.

인상적인 수치들:

• Docker 커밋(commits)보다 약 5배 빠름
• KV 캐시(KV cache)의 95% 이상 재사용
• CooperBench 통과율을 28.8%에서 54.7%로 향상

Git은 코드를 되돌릴 수 있게(reversible) 만들었습니다.

Shepherd는 AI 에이전트 실행(AI agent runs)을 되돌릴 수 있게(reversible) 만들고자 합니다.

Repo: