Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
AI 제품의 예측 불가능성을 줄이기 위해서는 모델 자체에 의존하기보다, 코드로 규칙을 강제하는 '하네스 엔지니어링'이 필수적입니다. 통제 구조는 모델, 하네스, 문서, 훅 네 계층으로 나뉘며, 오직 독립적으로 작동하는 '훅(hook)'만이 반복 오류를 막고 규칙을 보장할 수 있습니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 GeekNews의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기통제력은 아래에서 위로 갈수록 강해지는
네 계층으로 구성됨
모델: Claude Opus 4.8이나 GPT-5.5처럼 뛰어나더라도 같은 요청에 다른 답을 낼 수 있으며, 어떤 지침도 이 특성을 완전히 없애지 못함
하네스: Claude Code, Codex, OpenClaw처럼 모델을 실행하고 모델이 무엇을 볼지 결정하지만 큰 방향만 유도할 수 있음
문서: CLAUDE.md와 AGENTS.md에 선호 사항, 프로젝트 맥락, 규칙, 누적된 수정 사항을 담지만 모델이 다른 정보와 함께 판단하므로 따르지 않을 수 있음
훅: 특정 상황을 감시하다 독립적으로 작동하는 코드로, 모델의 동의 여부와 무관하게 금지된 명령을 차단함
네 계층 중 협상하지 않는 것은 최상단의
훅뿐임
훅으로 옮긴 규칙은 모델이 우회할 수 없어 반복 오류가 사라지고 사람이 검토할 범위도 줄어듦
통제해야 할 표면은 줄일 수 있지만 완전히 닫을 수는 없음
“이 명령을 실행하지 말라”는 조건은 코드로 검사할 수 있음
“분석이 미묘하게 잘못된 방향으로 흐르지 않게 하라”는 조건은 판단이 필요하며, 이를 판정하는 다른 모델도 다시 예측 불가능성을 가짐
출력을 실제로 증명할 수 있는 시스템은 사람이 미리 작성한 기준과 결과를 코드로 비교하며,
정답을 정확히 정의할 수 있는 영역에서만 작동함
모델이 업그레이드돼도 판단 문제가 사라지지 않으므로 모델을 감싸는 통제 계층은 계속 필요함
전통적인 소프트웨어 테스트는 원하는 출력과 하나의 정답을 정한 뒤 예측 가능한 코드를 검사하는 방식으로 발전함
AI 네이티브 제품은 같은 프롬프트에도 다른 결과를 내는
확률적 엔진을 중심에 두므로 기존 테스트의 전제가 깨짐
Hamel Husain의 지적처럼 수십 년간 구축된 소프트웨어 테스트 규율은 하나의 정답을 전제하지만, AI에서는 바로 그 정답이 사라짐
여러 개발자가 예측 불가능한 엔진은 유지하되 매번 똑같이 작동하는
결정론적 코드로 감싸는 방식에 수렴하고 있음
Claude Code에서는 조건을 검사할 방식을 선택할 수 있음
코드가 독립적으로 통과 또는 실패를 판정하면
보장을 얻음
모델이 조건 충족 여부를 판정하면 판단 결과만 얻을 수 있음
/goal은 Stop 훅을 감싼 기능이며, 직접 작성한 Stop 훅에서는 모델 대신 스크립트가 독립적으로 통과 또는 실패를 판정할 수 있음
Every의 에이전트 네이티브 아키텍처 가이드는 기능을 작성된 코드가 아니라 “루프 안에서 작동하는 에이전트가 달성하는, 기술된 결과”로 정의함
이 접근은 모델이 즉흥적으로 움직이게 하고 결과를 중심으로 제품을 설계하지만, 통제가 필요한 지점에서는 다시 코드로 돌아감
빈번하거나 중요한 경로인
핫 패스는 코드로 옮기도록 권함
일부 작업에는 에이전트의 판단에 맡겨서는 안 되는 검증이 필요함을 인정함
모델 중심 제품 설계와 통제 중심 엔지니어링은 서로 반대처럼 보이지만, 같은 아키텍처를 양쪽 끝에서 다룸
실제 설계에서는 제품의 어느 지점을 어느 정도까지 코드로 고정할지 결정해야 함
너무 적게 고정하면 보장이 필요한 작업에서도 모델이 즉흥적으로 판단해 고객에게 확신에 찬 오답을 전달할 수 있음
너무 많이 고정하면 모든 경로를 코드로 작성한 일반 소프트웨어가 되고, 모델은 기존 코드가 하던 일을 느리고 비싸게 수행함
OpenAI 팀이 부르는
하네스 엔지니어링은 제품 각 지점에서 모델의 판단이 필요한 부분과 코드의 보장이 필요한 부분을 의도적인 비율로 나누는 작업임
AI 코딩 도구 Cursor는 자체 범용 모델을 만들지 않고 Claude, GPT, Gemini, Grok 사이에서 요청을 라우팅하며 모델을 빌릴 수 있는 상품처럼 취급함
Anthropic의 Claude Code가 우수한 모델에 먼저 접근하더라도 Cursor를 대체하지 못함
Cursor 매출은 지난해 11월 약
10억 달러에서 6월 약 40억 달러로 증가함
SpaceX는 4월에 확보한 옵션을 지난주 행사해 Cursor를
600억 달러에 인수하기로 합의했으며, 이는 벤처 투자 스타트업 인수 중 역대 최대 규모임
Cursor가 축적한 것은 더 나은 범용 모델이 아니라 제품을 감싼 계층임
전체 저장소를 동기화하고 검색 가능한 상태로 유지하는
코드베이스 인덱스
하루 수억 건의 편집에서 개발자가 어떤 제안을 수락하거나 거절하는지 학습한 자체 자동완성 모델
Fortune 500 기업 대부분에 자리 잡은 엔터프라이즈 통합 환경
모델 회사가 더 나은 모델을 보유하더라도 편집기, 인덱스, 개발자의
사용 습관까지 소유하지는 못함