AgentOS: 결정론적 타임 트래블 리플레이 (Time-travel replay) 기능을 갖춘 AI 에이전트용 Rust 런타임
요약
AgentOS는 AI 에이전트의 장기 실행 프로세스를 관리하기 위한 Rust 기반의 오픈 소스 런타임 레이어입니다. 모든 LLM 교환과 도구 호출을 저널링하여 결정론적인 타임 트래블 리플레이 및 디버깅 기능을 제공합니다.
핵심 포인트
- Rust 기반의 고성능 에이전트 런타임 레이어 제공
- 결정론적 타임 트래블 리플레이로 API 비용 없는 디버깅 가능
- 체크포인트를 활용한 실행 경로 포크(Fork) 기능 지원
- gRPC, SSE, 메시지 버스 등 견고한 인프라 구성 요소 포함
대부분의 에이전트 프레임워크는 워크플로우를 _빌드(build)_하는 것을 도와줍니다. 하지만 그 이후의 과정이 더 어렵습니다. 워크플로우는 장기 실행 프로세스로 동작해야 하며, 명확하게 실패하고, 신중하게 재시작되어야 하며, 사후에 검사(inspectable)가 가능해야 합니다.
그것이 바로 제가 AgentOS를 구축하고 있는 간극입니다. AgentOS는 LangGraph, AutoGen 또는 CrewAI와 같은 프레임워크를 대체하는 대신, 그 _아래(underneath)_에 위치하는 오픈 소스 기반의 Rust-first 런타임 레이어입니다.
하나의 프로세스가 제공하는 것
cargo run -p agentos-cli -- run --agent examples/simple_agent.toml
이 단일 명령은 감독되는 에이전트(supervised agent), 헬스 엔드포인트(health endpoint), gRPC 메시지 버스(message bus), 라이브 SSE 이벤트 스트림(SSE event stream), 그리고 나중에 다시 재생(replay)할 수 있는 기록된 트레이스(trace)를 실행합니다. 런타임을 구동하기 위해 API 키가 필요하지는 않습니다.
타임 트래블 디버깅 (Time-travel debugging)
에이전트가 7단계에서 이상한 동작을 합니다. 이를 재현하려면 실제 API 호출 비용이 발생하며, 에이전트는 두 번 다시 똑같이 행동하지 않을 수도 있습니다.
AgentOS는 프로바이더 경계(provider boundary)에서 모든 LLM 교환 및 도구(tool) 결과를 저널링(journal)하므로, 어떤 실행이든 결정론적으로(deterministically) 재현할 수 있으며, 대체 타임라인으로 포크(fork)할 수 있습니다.
agentOS run --agent my_agent.toml # 모든 단계가 자동으로 저널링됨
agentOS replay --session agent_123 # 오프라인 재실행, API 비용 없음, 드리프트 체크(drift-checked)
agentOS fork --from ckpt_4 --prompt "try the other path"
대시보드의 녹화(Recordings) 뷰는 이러한 저널을 탐색 가능한 타임라인으로 변환합니다. 프롬프트, 각 교환, 도구 호출 및 그 결과를 단계별로 살펴볼 수 있으며, 각 교환별 체크포인트(checkpoint)를 포크 앵커(fork anchor)로 사용할 수 있습니다.
내부 구성 요소
crates/kernel— 라이프사이클(lifecycle), 에이전트 핸들(agent handles), 슈퍼바이저(supervisor)crates/bus— 인메모리(in-memory), gRPC, SSE 및 WebSocket 메시징crates/trace— 기록(recording), 리플레이(replay), 디프(diff), 체크포인트 모델(checkpoint model)crates/vault— 비밀 정보 격리(secret isolation), 암호화(encryption), 스코프(scopes), 감사(audit)crates/memory,crates/registry,crates/llm,crates/cli,crates/sdkdashboard/— React 디버깅 인터페이스
솔직한 현재 상태
로컬 사용에는 충분히 안정적임: run / ps / logs / trace / replay CLI 흐름, 로컬 상태 조사 (inspection), 내보내기 및 가져오기, 그리고 워크스페이스 체크 및 테스트가 포함된 핵심 크레이트 (crates).
여전히 실험적임: 대시보드 (dashboard), WASM 플러그인 런타임 (runtime), Docker Compose 패키징, LLM 제공자 통합, 그리고 Python/TypeScript SDK 패키징. 명시적인 테스트를 통한 더 강력한 재시작 및 복구 보장이 다음 단계입니다. 이 프로젝트는 알파 (alpha) 단계이며, 아직 획득하지 못한 프로덕션 수준의 견고함 (production hardening)을 주장하기보다는 차라리 알파라고 말하는 편을 택하겠습니다.
사용해 보기
git clone https://github.com/WAHIB-EL-KHADIRI/AgentOS
cd AgentOS
cargo build --workspace
...
리포지토리 (Repo): https://github.com/WAHIB-EL-KHADIRI/AgentOS
제가 가장 원하는 것은 런타임 경계 (runtime boundaries)에 대한 피드백입니다. 현재 에이전트를 실행하고 있다면, 무엇이 가장 먼저 문제를 일으키나요 — 감독 (supervision), 관찰 가능성 (observability), 아니면 실패 재현 (reproducing failures)인가요?
AI 자동 생성 콘텐츠
본 콘텐츠는 Dev.to AI tag의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기