Claude Code를 사용하는 많은 이들에게는 일종의 반사적인 습관이 있습니다. 작업이 건드릴 수도 있는 모든 파일을 @-mention(멘션)하여 세션을 시작함으로써, 모델이 "모든 것을 가지고 있게" 만드는 것입니다. 이는 책임감 있게 느껴집니다. 하지만 간단한 수정보다 큰 작업을 할 때는 세션을 더 악화시키며, 그 이유는 놓치기 쉽습니다.

해당 파일들은 현재 단계에서 필요하든 아니든 세션이 끝날 때까지 컨텍스트 윈도우 (context window)에 머물게 됩니다. 안전을 위해 미리 로드한 5개의 파일은, 그 파일들과 아무런 관련이 없는 턴을 포함하여 이후의 모든 턴에서 주의력을 분산시키기 위해 경쟁하게 됩니다. 이것이 바로 컨텍스트 부패 (context rot)이며, 미리 로드하는 행위는 세션 시작 시점에 이를 인위적으로 만들어냅니다.

Anthropic의 컨텍스트 엔지니어링 (context-engineering) 보고서에서는 그 대안을 직접적으로 명시하고 있습니다. 데이터를 미리 로드하는 대신, "just-in-time" 방식을 사용하는 에이전트는 "경량 식별자(파일 경로, 저장된 쿼리, 웹 링크 등)를 유지하고, 도구(tools)를 사용하여 런타임(runtime)에 이러한 참조를 통해 데이터를 컨텍스트로 동적으로 로드"합니다. 그들은 이를 사람들이 실제로 일하는 방식에 비유합니다. 우리는 코드베이스 전체를 암기하지 않고, 파일 시스템을 유지하다가 필요할 때 파일을 엽니다.

Claude Code는 사용자가 허용한다면 이미 이런 방식으로 작동합니다. Claude Code에는 Read, Glob, Grep 기능이 있습니다. 작업 내용과 정보가 있는 위치에 대한 포인터만 제공하면, 모델은 해당 단계에서 필요할 때 특정 파일을 가져온 뒤 다음으로 넘어갑니다. 컨텍스트 윈도우는 나중에 관련이 있을지도 모르는 내용이 아니라, 지금 관련이 있는 내용으로 가득 차 있게 됩니다.

그래서 저는 가볍게 유지합니다. 작업 내용과 찾아봐야 할 위치("인증 흐름은 src/auth 아래에 있고, 실패하는 테스트는 x입니다")를 알려주며 시작하고, 변경의 중심이라고 확신하는 한두 개의 파일만 @-mention 합니다. 나머지는 모델이 직접 가져오도록 둡니다. 이렇게 하면 세션의 선명함이 눈에 띄게 더 오래 유지됩니다.

물론 공짜는 아닙니다. Anthropic은 런타임 탐색 (runtime exploration)이 모델에게 미리 계산된 컨텍스트를 전달하는 것보다 느리다는 점을 솔직하게 밝히고 있으며, 이미 알고 있는 파일의 작은 수정 작업이라면 그냥 @-mention 하는 것이 옳은 선택입니다. 하지만 보상은 대규모 탐색 작업에서 나타나며, 바로 그 작업들이 미리 로드하는 방식이 가장 큰 피해를 주는 지점입니다.

프롬프트 엔지니어링 (Prompt-engineering)의 본능적인 반응은 모델이 "컨텍스트 (Context)"를 가질 수 있도록 모든 것을 미리 로드하는 것입니다. 에이전트 (Agent)의 경우, 더 나은 기본 설정은 에이전트에게 컨텍스트를 가져올 수 있는 방법을 제공하고 이를 신뢰하는 것입니다. 파일 더미를 한꺼번에 열어두는 행위를 멈추십시오.

출처: Anthropic: AI 에이전트를 위한 효과적인 컨텍스트 엔지니어링 (Just-in-time retrieval: 가벼운 식별자 (Identifiers)를 유지하고 도구 (Tools)를 통해 런타임 (Runtime)에 데이터를 로드함; 파일 시스템/북마크 비유; 런타임 탐색은 미리 계산된 데이터보다 느림)
제출자: /u/bit_forge007
[link] [comments]