프롬프트 엔지니어링을 대체하는 루프 엔지니어링(Loop Engineering) — 이것이 당신의 AI 코딩 비용에 의미하는 바

이번 달 AI 코딩 도구들을 지켜봐 왔다면, 어디에서나 이 문구를 보셨을 것입니다:

"저는 더 이상 Claude에게 프롬프트를 입력하지 않습니다. Claude에게 프롬프트를 입력하는 루프(loops)를 실행합니다. 제 업무는 루프를 작성하는 것입니다." — Boris Cherny, Anthropic의 Claude Code 책임자

이것은 단순히 귀에 쏙 들어오는 문구가 아닙니다. 이는 개발자가 AI 코딩 에이전트(AI coding agents)와 상호작용하는 방식의 근본적인 변화를 나타내며, 거의 아무도 이야기하지 않는 엄청난 비용적 함의를 담고 있습니다.

아무도 요청하지 않았지만 모두에게 필요했던 진화

진화 과정은 다음과 같습니다:

1. 프롬프트 엔지니어링 (Prompt engineering) (2023): 완벽한 프롬프트를 작성하여 한 번의 좋은 결과물을 얻음
2. 컨텍스트 엔지니어링 (Context engineering) (2024): 모델에 올바른 정보를 전달함
3. 하네스 엔지니어링 (Harness engineering) (2025): 단일 에이전트가 실행되는 환경을 설계함
4. 루프 엔지니어링 (Loop engineering) (2026): 자율적인 에이전트의 작업을 생성(spawn), 모니터링 및 검증하는 시스템을 설계함

각 단계는 레버리지(leverage)를 "더 나은 프롬프트 작성"에서 "더 나은 시스템 설계"로 이동시켰습니다. 루프 엔지니어링은 논리적인 종착점입니다. 즉, 인간이 루프 안에 머무는 것을 완전히 멈추고 루프 자체를 설계하기 시작하는 것입니다.

이것이 일어난 이유

모든 것을 주도하는 아키텍처적 제약 조건은 다음과 같습니다: LLM은 상태가 없습니다 (stateless). LLM은 세션 사이의 모든 것을 잊어버립니다. 프로젝트 규칙, 이전 결정, 중간 결과와 같은 모든 컨텍스트(context) 조각은 모델 외부에 존재해야 합니다.

한 번에 한 턴씩 프롬프트를 입력할 때, _당신_이 바로 메모리 시스템이 됩니다. 당신은 머릿속에 컨텍스트를 유지하고 매 턴마다 이를 다시 제공합니다. 이는 작은 작업에는 효과적입니다. 하지만 다단계 작업의 경우, 자체적인 오버헤드(overhead)로 인해 무너집니다.

루프 엔지니어링은 시스템 설계 측면의 대응책입니다. 컨텍스트를 수동으로 유지하는 대신, 다음과 같은 기능을 수행하는 작은 시스템을 구축하는 것입니다:

• 컨텍스트를 외부에 유지 (파일, git, 메모리 문서)
• 다음에 무엇을 프롬프트할지 결정
• 에이전트에게 작업을 할당 (dispatch)
• 작업이 완료되었는지 확인
• 완료될 때까지 루프를 반복

아무도 경고하지 않는 비용 문제

여기서 위험한 지점이 발생합니다: 자율 루프(autonomous loops)에서의 토큰 비용은 기하급수적으로 복리로 증가합니다.

단순히 수동으로 Claude Code 세션을 한 번 진행하는 데는 $0.50~$2.00가 들 수 있습니다. 하지만 동일한 작업을 수행하는 자율 루프(autonomous loop)는 다음과 같은 이유로 10~50배 더 많은 API 호출을 할 수 있습니다.

• 컨텍스트 이해를 위해 파일 읽기 (루프 반복마다)
• 탐색적인 변경 사항 생성 및 되돌리기
• 테스트 실행 및 실패 해석
• 다른 접근 방식으로 재시도

가드레일(guardrails)이 없다면, 하룻밤 동안 돌아가는 루프는 원래 $5짜리 작업이어야 할 것에 대해 $200 이상을 소진할 수 있습니다.

모든 루프에 필요한 세 가지 가드레일

1. 예산 가드(Budget Guards) (필수)

루프 실행당 하드 달러 상한선을 설정해야 합니다. 세션당이 아니라 작업 단위로요. 만약 에이전트가 기능을 구현하고 있다면, $10으로 제한하세요. 오타를 수정하는 것이라면 $0.50으로 제한하세요. 이 상한선은 모델의 욕심이 아니라 작업의 가치를 반영해야 합니다.

2. 별도의 검증 모델(A Separate Verifier Model)

대부분의 사람들이 놓치는 통찰력입니다: 비싼 모델로 수행된 작업을 저렴한 모델을 사용해 검증하세요.

당신의 구현 루프는 Opus나 o3와 같은 비싼 프론티어 모델(frontier model)에서 실행됩니다. 하지만

실제 사례에서의 모습

만약 여러분이 현재 코딩 에이전트(coding agent)를 사용하고 있다면, 최소한 실행 가능한 루프(minimum viable loop)는 다음과 같습니다:

1. 에이전트가 작업 설명(task description) + 프로젝트 컨텍스트(project context)를 읽음
2. 에이전트가 접근 방식 계획 (프론티어 모델 (frontier model))
3. 에이전트가 구현 (중급 모델 (mid-tier model), 예산 제한 적용)
...

인간의 역할은 1~6단계를 설계하고 예산 상한선(budget caps)을 설정하는 것입니다. 모델은 루프 내부의 모든 것을 처리합니다.

결론

루프 엔지니어링(Loop engineering)은 단순한 새로운 유행어가 아닙니다. 이는 우리가 AI 코딩 도구를 사용하는 방식에 있어 진정한 패러다임 전환(paradigm shift)입니다. 하지만 주의하지 않으면 비용이 10배까지 치솟을 수 있는 비용 함정(cost trap)이 뒤따릅니다.

승리하는 개발자는 자율 루프(autonomous loops)를 지능적인 라우팅(routing) 및 검증(verification)과 결합하는 사람들입니다. 여러분이 잠든 동안 시스템이 작동하게 두되, 반드시 효율적으로 작동하고 있는지 확인하십시오.

이제 게임의 핵심은 더 나은 프롬프트가 아닙니다. 더 나은 시스템입니다.

저는 작업 수준의 모델 라우팅(task-level model routing)을 구현함으로써 팀의 AI 코딩 비용을 월 1만 달러에서 3천 달러 미만으로 줄였습니다. 이 글에서 설명한 접근 방식이 바로 우리가 그렇게 한 방법입니다. 라우팅에 관심이 있다면 coderouter.io를 확인해 보세요.