Memory Sidecar는 프로덕션 AI 워크플로에서 에이전트 불가지론적 (agent-agnostic) 메모리를 위한 핵심 구성 요소가 되었습니다. 버전 3.5.1은 기능 속도(feature velocity)에서 운영 성숙도(operational maturity)로의 의도적인 전환을 의미하며, 배포 과정에서 관찰된 실제 현장의 페인 포인트(pain points)를 해결합니다. 이번 릴리스는 새로운 API나 스키마를 도입하지 않습니다. 대신, 부하(load), 네트워크 변동(network churn), 그리고 적대적 조건 (adversarial conditions) 하에서도 신뢰할 수 있도록 런타임 동작을 강화합니다.

연결 회복 탄력성 (connection resilience), 캐싱 (caching), 그리고 관찰 가능성 (observability)의 세 가지 영역에 집중했습니다. 이 모든 항목은 환경 변수(environment variables) 또는 마운트된 설정 파일을 통해 구성할 수 있어, 운영자가 워크로드에 따라 조정할 수 있습니다.

연결 회복 탄력성 (Connection Resilience)

백엔드 메모리 저장소 (예: Redis 또는 SQL 백엔드)가 응답하지 않을 때, 이제 사이드카(sidecar)는 지수 백오프 재시도 (exponential backoff retries) 기능이 포함된 서킷 브레이커 (circuit breaker)를 사용합니다. 설정 가능한 연속 실패 임계값 이후에 서킷이 열리며(open), 연쇄적인 타임아웃 (cascading timeouts)을 방지하기 위해 요청을 즉시 거부합니다. 반개방 (half-open) 상태는 백엔드의 복구 여부를 주기적으로 확인합니다. 재시도에는 천둥떼 문제 (thundering herd)를 방지하기 위한 지터 (jitter)가 포함됩니다.

environment:
  MEMORY_SIDECAR_RETRY_MAX: "3"
  MEMORY_SIDECAR_RETRY_BASE_DELAY_MS: "500"
...

이것들은 사이드카와 업스트림 저장소(upstream store)를 모두 보호하는 데 필요한 유일한 조절 장치(knobs)입니다.

근접 캐시 계층 (Near-Cache Layer)

읽기 작업 (Read operations)은 대부분의 에이전트 상호작용에서 핫 패스 (hot path)입니다. v3.5.1은 구성 가능한 TTL (Time To Live) 및 세션별 네임스페이싱 (per-session namespacing) 기능이 있는 LRU 인메모리 캐시 (in-memory cache)를 추가했습니다. 이를 통해 반복적인 조회 시 지연 시간 (latency)을 밀리초(milliseconds)에서 마이크로초(microseconds) 단위로 줄이고, 스토리지 백엔드의 부하를 낮춥니다. 캐시는 기본적으로 비활성화되어 있으므로, 워크로드를 프로파일링 (profiling)한 후에만 활성화하십시오.

MEMORY_SIDECAR_CACHE_ENABLED=true
MEMORY_SIDECAR_CACHE_SIZE=10000
MEMORY_SIDECAR_CACHE_TTL_SECONDS=300

네임스페이싱 (Namespacing)은 캐시 충돌 (cache collisions)이 발생하더라도 세션별 데이터가 다른 세션에 제공되지 않도록 보장합니다.

관찰 가능성 (Observability)

모든 gRPC 핸들러(handler)는 이제 에이전트로부터 전파될 수 있는 트레이스 ID (trace ID)를 포함한 구조화된 로그 (structured logs)를 생성합니다. Prometheus 메트릭 (metrics)은 /metrics 경로를 통해 노출되며, 요청 지연 시간 히스토그램 (request latency histograms), 캐시 히트/미스 비율 (cache hit/miss ratios), 서킷 브레이커 (circuit breaker) 상태 전환, 그리고 커넥션 풀 (connection pool) 사용률을 포함합니다. 전용 /healthz 및 /readyz 엔드포인트는 백엔드 연결, 캐시, 그리고 사이드카 (sidecar)의 내부 상태를 반영합니다.

보안 기본 설정 (Security Defaults)

모든 gRPC 연결에 대해 TLS가 기본적으로 강제 적용됩니다. API 키 인증은 필수 사항입니다. 키는 MEMORY_SIDECAR_API_KEY 환경 변수 또는 /etc/memory-sidecar/key에 마운트된 파일을 통해 제공되어야 합니다. 디버그 엔드포인트 (debug endpoints)는 프로덕션 빌드에서 제거되었습니다.

업그레이드 경로 (Upgrade Path)

hermes-memory-installer를 통해 배포하는 경우, v3.5.1이 이제 신규 설치를 위한 기본 이미지입니다. 기존 배포 환경에서는 이미지 태그를 업데이트하고 새로운 환경 변수를 추가할 수 있습니다. 구성 스키마 (configuration schema)는 하위 호환성 (backwards compatible)을 유지하지만, MEMORY_SIDECAR_API_KEY가 누락될 경우 사이드카가 시작 시 실패하게 되므로 배포 전 시크릿 (secrets)을 확인하십시오.

이번 릴리스는 순수하게 운영 강화 (hardening)를 목적으로 합니다. 새로운 메모리 작업, 스키마 변경, 또는 프로토콜의 파괴적 변경 (breaking protocol shifts)은 없습니다. 운영상의 마찰을 줄이고, 프로덕션 환경에서 에이전트 메모리 동작을 디버깅하는 데 필요한 관찰 가능성 (observability)을 확보하기 위해 업그레이드하십시오.