Memory Sidecar v3.5.1이 hermes-memory-installer 생태계를 위한 운영 강화(operational hardening) 릴리스로 출시되었습니다. 이번 버전은 에이전트 불가지론적 (agent-agnostic) 메모리 사이드카 (memory sidecar)의 프로덕션 준비 상태를 목표로 하며, 안정성, 보안 및 관찰 가능성 (observability)을 다룹니다. 멀티 에이전트 아키텍처를 구축하거나 대규모로 메모리 서비스를 배포하는 숙련된 개발자들은 리소스 관리, 장애 복구 및 격리 측면에서 중요한 개선 사항을 확인할 수 있을 것입니다.

프로덕션 규모에서의 에이전트 불가지론적 (Agent-Agnostic) 메모리

Memory Sidecar의 핵심 전제는 변하지 않았습니다. 이는 LLM, API 게이트웨이 또는 커스텀 서비스와 같은 어떤 에이전트라도 균일한 HTTP 인터페이스를 통해 접근할 수 있는 독립적이고 지속적인 메모리 계층을 제공합니다. v3.5.1은 실제 운영 스트레스에 대해 이 인터페이스를 강화합니다. 에이전트별 수정이 필요하지 않으므로, 기존 클라이언트는 코드 변경 없이 계속 작동합니다. 여기서의 초점은 새로운 기능이 아니라, 부하, 네트워크 분할(network partitions) 및 리소스 경합 상황에서 사이드카가 예측 가능하게 동작하도록 보장하는 데 있습니다.

"운영 강화 (Operational Hardening)"의 실제 의미

이번 릴리스의 강화 작업은 신뢰성, 보안, 운영 가시성이라는 세 가지 기둥을 다룹니다.

**신뢰성 (Reliability)**은 일시적인 데이터베이스 및 네트워크 장애에 대한 자동 재시도 및 백오프 (retry-and-backoff), 반복된 타임아웃 발생 시 작동하는 서킷 브레이커 (circuit breakers), 그리고 제어된 메모리 프루닝 (memory pruning)을 통해 확보됩니다. 이제 사이드카는 자체 RSS를 모니터링하며, 시스템이 메모리 압박을 보고하면 유휴 세그먼트를 선제적으로 해제합니다. 커넥션 풀링 (Connection pooling)도 재작업되었습니다. 기본 풀 크기는 사용 가능한 CPU 코어에 따라 확장되며, 오래된 소켓을 방지하기 위해 유휴 커넥션은 60초마다 재활용됩니다. 우아한 종료 (Graceful shutdown) 또한 개선되었습니다. SIGTERM이 발생하면 모든 대기 중인 쓰기 작업이 플러시(flush)되고 스토어가 깔끔하게 종료됩니다.

보안 (Security) 기능이 전송 및 액세스 계층을 강화합니다. 모든 인입 요청(incoming requests)에는 TLS 1.3 사용이 필수적이며, 이전 버전의 TLS는 핸드셰이크(handshake) 단계에서 거부됩니다. 이제 API 키는 Authorization: Bearer <token> 헤더로 제시되어야 하며, 각 키는 특정 메모리 풀(memory pool)로 범위(scoped)가 제한됩니다. 감사 로그(Audit logging)는 키 ID, 타임스탬프, 페이로드 크기(payload size)와 함께 모든 GET, PUT, DELETE 작업을 기록합니다.

**운영 가시성 (Operational visibility)**에는 구조화된 JSON 로깅(레벨: info, warn, error)과 요청 지연 시간(request latency), 에러율(error rates), 풀 사용률(pool utilization)에 대한 Prometheus 카운터(counters)를 노출하는 /metrics 엔드포인트가 포함됩니다.

설정 예시 (Configuration Example)

사이드카(sidecar)는 단일 YAML 파일을 통해 설정됩니다. 아래는 새로운 강화 옵션들을 강조한 최소한의 프로덕션 설정 예시입니다:

sidecar:
  listen: ":8080"
  tls:
...

이 설정은 TLS를 활성화하고, LRU 교체(eviction) 방식을 통해 메모리 소비를 2 GB로 제한하며, 지수 백오프 재시도(exponential backoff retries)를 포함한 10초의 클라이언트 타임아웃을 설정하고, Prometheus 메트릭(metrics)을 활성화합니다.

hermes-memory-installer를 이용한 설치

배포는 hermes-memory-installer에 의해 처리되며, 이제 종속성 검증(dependency validation), 체크섬 확인(checksum verification)을 수행할 수 있으며, 설정을 사이드카 컨테이너(sidecar container) 또는 systemd 유닛(unit)으로 적용할 수 있습니다. 설치 프로그램은 공식 리포지토리(repository)에서 빌드된 바이너리(binary)를 다운로드하고 압축을 풀기 전에 SHA-256을 검증합니다.

hermes-memory-installer --deploy memory-sidecar --version 3.5.1 \
  --config /etc/hermes/sidecar.yaml \
  --check-updates

--check-updates 플래그를 사용하면 새로운 강화 릴리스(hardening release)가 사용 가능할 때 자동 알림을 활성화합니다. 컨테이너화된 환경의 경우, 설치 프로그램은 Docker 호환 레이어(layer)를 생성하거나 직접 주입(injection)을 위해 바이너리를 준비할 수 있습니다.

중대한 변경 사항 및 마이그레이션 (Breaking Changes and Migration)

v3.5.1에서는 더 이상 사용되지 않는 (deprecated) /v2/* API 엔드포인트를 제거합니다. 모든 클라이언트는 /v1/memory/... 패턴으로 마이그레이션해야 합니다. 또한, TLS 1.3 강제 적용에 따라 이전 TLS 버전에 고정된(pinned) 모든 클라이언트는 업데이트가 필요합니다. 설치 프로그램은 스테이징 (staging) 환경을 위해 호환성 플래그(--no-tls13)를 제공하지만, 이를 프로덕션 (production) 환경에서 사용해서는 안 됩니다.

마이그레이션을 위해 클라이언트 코드를 /v1/ 접두사를 사용하도록 업데이트하고, TLS 라이브러리가 1.3을 지원하는지 확인하십시오. 데이터 마이그레이션은 필요하지 않습니다. 디스크 저장 형식 (on-disk storage format)은 하위 호환성 (backward compatible)을 유지합니다.

업그레이드 이유 (Why Upgrade)

이번 릴리스는 이미 스테이징 (staging) 또는 가벼운 프로덕션 (production) 환경에서 Memory Sidecar를 실행 중인 팀을 위한 것입니다. 이 버전은 규모가 커질 때 발생하는 취약한 에지 케이스(edge cases)—만료된 연결 (stale connections), 무제한 메모리 증가 (unbounded memory growth), 그리고 조용한 요청 실패 (silent request failures)—를 제거합니다. 서킷 브레이커 (circuit breaker) 기능만으로도 단일 에이전트 (agent)의 오작동이 커넥션 풀 (connection pool)을 고갈시키는 것을 방지할 수 있으며, 구조화된 로그 (structured logs)는 디버깅 시간을 대폭 단축합니다.

hermes-memory-installer 프로젝트가 처음이라면, v3.5.1이 권장되는 시작점입니다. 이 버전은 에이전트 불가지론적 (agent-agnostic) 메모리를 위해 안정적이고 보안이 강화된 (security-hardened) 기반을 제공하며, 까다로운 워크로드 (workloads)를 처리할 준비가 되어 있습니다. 이를 배포하고 메모리 풀 (memory pool)을 구성하여, 압박 속에서도 무너지지 않는 메모리 레이어와 에이전트가 통신하게 하십시오.