주말에 집에서 30분만 투자해 학습해 보세요! Anthropic의 컨텍스트 관리(Context Management) 영상

주말에 집에서 뒹굴거리며 30분만 투자해 학습해 보세요!
숏폼 영상만 보지 말고, Anthropic의 컨텍스트 관리 (Context Management) 영상을 확인해 보세요!

2026년 AI DevCon에서 Anthropic의 Lamis는 컨텍스트 엔지니어링 (Context Engineering)에 관한 강연을 진행했습니다.

이번 강연 전체에는 지난 1년 동안 Anthropic이 컨텍스트 관리 측면에서 수행한 모든 실무 사례가 담겨 있으며, 가장 단순한 방안부터 최첨단 아키텍처 (Architecture)까지 아우릅니다.

Claude MD 파일부터 시작합니다.

순수 Markdown 파일 하나를 세션 시작 부분에 배치하여, Agent에게 코드베이스 구조, 조직 정보, 개인적 선호도를 알려주는 방식입니다.

효과는 놀라울 정도로 좋았습니다. Anthropic의 표현을 빌리자면 "unreasonably effective" (놀라울 정도로 효과적)였습니다.

하지만 문제도 명확했습니다. 파일이 점점 길어지면서 컨텍스트 (Context)가 팽창하고 관리가 어려워진다는 점입니다.

두 번째 단계는 메모리 도구 (Memory Tools)입니다.

Agent가 언제 읽고, 언제 쓰고, 언제 메모리를 업데이트할지를 스스로 결정하게 합니다. 이 모든 과정은 인-밴드 (In-band), 즉 세션 컨텍스트 내에서 이루어집니다.

Anthropic은 이러한 시나리오에서 자율성 (Autonomy)이 매우 잘 작동한다는 것을 발견했습니다. Agent는 무엇을 기억할 가치가 있는지 판단하는 데 있어 인간보다 더 뛰어납니다.

세 번째 단계는 스킬 (Skills)입니다.

핵심 아이디어는 점진적 노출 (Progressive Disclosure)입니다.

Agent는 파일 상단의 몇 줄 서문만 보고 전체 파일을 로드할 필요가 있는지 결정합니다.

Lamis의 비유는 매우 정확했습니다. 마치 방 안에 책장이 있는 것과 같습니다. 누군가 나에게 말을 걸 때마다 나는 책 목록을 훑어보고 관련 서적이 있는지 확인한 뒤, 그 책을 꺼내 읽습니다.

모든 지식을 미리 컨텍스트에 집어넣을 필요가 없는 것입니다.

네 번째 단계는 파일 시스템 (File System)입니다.

메모리 시스템을 일반적인 파일 시스템으로 모델링하고, Markdown 파일로 채우며, Agent가 bash와 grep을 사용하여 검색하게 합니다.

화려한 벡터 데이터베이스 (Vector Database)나 별도의 도구가 필요하지 않습니다. Agent는 본래 파일 시스템을 다루는 데 능숙하기 때문입니다.

하지만 이러한 방안들을 프로덕션 (Production) 환경으로 확장할 때 문제가 발생합니다.

여러 Agent가 동시에 동일한 메모리 파일에 쓰기를 시도하면 어떻게 될까요? 한 Agent가 조직 수준의 컨텍스트에 잘못된 정보를 쓰면 모든 Agent가 영향을 받게 됩니다. 메모리가 오래되어 쓸모없어지면 어떻게 할까요?

누군가 프롬프트 인젝션 (Prompt Injection)을 통해 메모리에 악의적인 내용을 작성한다면 어떻게 될까요?

Anthropic이 제시한 해결책은 네 가지 원칙입니다: 버전 관리 (Version Control, 롤백 가능), 동시성 제어 (Concurrency Control, 해시 검증), 권한 관리 (Permission Management, 조직 단위는 읽기 전용, 개인 단위는 쓰기 가능), 그리고 이식성 (Portability, 깨끗한 API를 통한 시스템 간 접근).

그리고 가장 흥미로운 부분은 바로 '꿈 꾸기 (Dreaming)'입니다.

인-밴드 (In-band) 메모리에는 근본적인 한계가 있습니다. Agent는 작업을 완수해야 하는 동시에 메모리도 관리해야 하는데, 이는 서로 경쟁하는 두 목표입니다.

또한 Agent는 현재 세션의 정보만 볼 수 있을 뿐, 세션을 넘나드는 패턴을 식지 못합니다.

'꿈 꾸기'는 아웃-오브-밴드 (Out-of-band) 방식의 비동기 처리 과정입니다.

일정 기간 동안의 모든 세션 기록을 가져와 전담 Agent에게 분석을 맡깁니다.

이 Agent는 메모리 저장소를 살펴보고 패턴을 식별하며 변경 제안을 합니다. 예를 들어, 모든 지리 학도들이 동일한 문제를 틀렸다면 이는 커리큘럼에 특정 주제가 누락되었음을 의미합니다.

모든 수학 시험의 답안이 각도 대신 라디안(Radian) 단위를 사용한다면, 이는 도구 설정에 문제가 있음을 나타냅니다.

'꿈 꾸기'는 본질적으로 모든 '학생'의 과제를 검토하여 문제를 발견하고 '커리큘럼'을 조정하는 배치 처리 (Batch Processing) 방식의 '교장 선생님'과 같습니다.

이 과정은 자신만의 전용 리소스를 가지므로, 작업 수행을 위한 컨텍스트와 경쟁하지 않습니다.

Anthropic은 이미 프로덕션에서 이 시스템을 운영하고 있습니다.

그들은 Agent가 작업을 두 번째 수행할 때 더 잘 수행하며, 비용은 낮아지고 (한 번에 완료할 수 있으므로), 지연 시간 (Latency)은 감소한다는 것을 발견했습니다.

'꿈 꾸기'로 인한 추가적인 토큰 (Token) 소비는 작업 자체의 효율성 향상으로 상쇄됩니다.

마지막으로 Lamis는 기억할 만한 한 마디를 남겼습니다. 컨텍스트 엔지니어링 (Context Engineering)은 지난 1년 사이에 비로소 진정으로 발전하기 시작한 분야라는 점입니다.

모델의 지능 그 자체만으로는 복리 효과를 낼 수 없습니다. 모델이 당신이 맡긴 구체적인 작업을 수행하기 위해서는 컨텍스트가 필요합니다.

반면 컨텍스트 엔지니어링의 효과는 지능을 배가시키는 것입니다. 모델 자체가 더 똑똑해지더라도, 이 투자는 여전히 가치가 있습니다.