Claude Code 구축에 관한 Anthropic의 Boris Cherny의 이야기: AI 잠재력 해방하기 — anthropic boris cherny building claude code

최근 Y Combinator의 Startup School에서 진행된 토론에서, Anthropic의 Claude Code 책임자인 Boris Cherny는 그들의 고급 AI 모델인 Opus 5의 개발과 Claude Code의 진화를 이끄는 철학에 대해 깊은 통찰을 제공했습니다. Cherny의 논의는 모델의 잠재력을 완전히 실현하기 위해 모델의 '제약을 해제(unhobbling)'하는 데 중점을 둔 AI 개발에 대한 미래 지향적인 접근 방식을 강조했습니다.

Opus 5: AI 성능의 도약

Cherny는 Anthropic의 최신 AI 모델인 Opus 5의 최근 출시를 발표했습니다. 이 새로운 반복 버전은 크게 가속화된 성능을 자랑하며, 이는 모델의 고급 능력을 나타내는 핵심 지표입니다. 강조된 주요 이정표는 Opus 5가 Arc AGI 벤치마크에서 30%의 점수를 달성했다는 점입니다. 이는 일반적으로 한 자릿수 초반이나 10%대에 머물렀던 이전 점수들로부터 상당한 도약을 의미하며, AI 모델 능력의 중대한 발전을 시사합니다.

또한, Opus 5는 향상된 '오토 모드 (Auto Mode)'를 도입하여, 외부 스캐폴딩 (scaffolding) 없이도 AI가 며칠, 몇 주, 또는 몇 달 동안 장기간 작동할 수 있도록 합니다. 이러한 능력은 모델이 본질적으로 자신의 작업을 이해하고 완료를 향해 자율적으로 작업을 계속할 수 있음을 의미합니다.

프롬프트 인젝션 (Prompt Injection) 대응과 '삭제 버튼 누르기' 철학

Opus 5는 AI 개발의 지속적인 과제인 프롬프트 인젝션 (Prompt Injection)에 대해 놀라운 저항력을 보여줍니다. Cherny는 Opus 4.7부터 존재했던 이러한 탄력성이 Opus 5에서 크게 강화되었다고 밝혔습니다. 이는 Anthropic의 3년간의 AI 정렬 (AI alignment) 연구, 모델의 신경 활동을 분석하는 특화된 프롬프트 인젝션 분류기 (prompt injection classifier), 그리고 오토 모드 분류기 (auto-mode classifier)의 결합 덕분입니다. 이러한 계층들은 집합적으로 프롬프트 인젝션을 입증하는 것을 매우 어렵게 만듭니다.

Anthropic은 Claude Code를 업데이트하기 위해 엄격한 방식을 채택하고 있으며, Cherny는 이를 '삭제 버튼을 누르는 (press delete)' 철학이라고 설명했습니다. 새로운 모델이 출시될 때마다, 그들은 본질적으로 코드베이스와 시스템 프롬프트 (system prompt)를 초기화하여 처음부터 다시 시작합니다. 연구 분야에서 '어블레이션 (ablation)'이라고 알려진 이 프로세스는 전체 시스템 프롬프트를 삭제한 다음, 각 구성 요소의 영향을 정확하게 이해하기 위해 요소별로 하나씩 다시 도입하는 과정을 포함합니다. 이러한 세심한 접근 방식 덕분에 그들은 프레임워크를 각 새로운 모델의 고유한 특성에 맞게 조정할 수 있습니다. 예를 들어, Opus 5의 진보된 지능 덕분에 이전 시스템 프롬프트의 약 80%를 삭제할 수 있었는데, 이는 모델이 이전에는 명시적인 지침이 필요했던 많은 동작들을 이제 본질적으로 이해하기 때문입니다. Cherny는 사용자들이 자신만의 시스템 프롬프트를 설정하거나, 도구 (tools)를 위한 프롬프트를 포함한 모든 시스템 프롬프트를 제거하는 문서화되지 않은 기능인 claude code simple=1을 활용하여 이를 실험해 볼 것을 권장합니다. 그는 모델이 때때로 광범위한 명시적 프롬프트 없이 더 나은 성능을 발휘할 수 있지만, 사용자 친화적인 제품 경험을 위해서는 여전히 일부 프롬프트가 필요하다고 언급했습니다.

'Claude의 제약 해제하기 (Unhobbling Claude)': 잠재된 AI 잠재력 해방하기

Cherny가 소개한 핵심 개념은 'Claude의 제약 해제하기 (unhobbling Claude)'로, 이는 AI 모델이 잠재력을 최대한 발휘하지 못하게 방해하는 제품 차원의 제한 사항들을 제거하는 것을 의미합니다. 그는 '제품 오버행 (product overhang)'이라는 개념을 상세히 설명하며, 현재의 AI 모델들이 아직 활용되지 않은 능력을 보유하고 있음에도 기존 제품들이 이를 이끌어내지 못하는 현상을 묘사했습니다. 이는 종종 제품의 설계가 의도치 않게 모델을 '제약 (hobble)'하여, 모델이 가진 전체 능력 범위를 표현하는 능력을 제한하기 때문에 발생합니다. Cherny는 Sonnet 3.5를 기반으로 구축된 Claude Code의 초기 버전을 예로 들었습니다. Claude Code는 강력한 코딩 모델이었지만, 기존 제품들은 단일 행 자동 완성 (autocompletes)이나 읽기 전용 채팅 상호작용에 국한되어 있었습니다. Claude Code의 비전은 이러한 제약들을 제거하는 프레임워크를 구축하여, 모델이 파일 전체와 기능(features)을 작성할 수 있게 함으로써 그 '제품 오버행 (product overhang)'에 접근하는 것이었습니다.

Cherny는 스타트업들이 현재의 AI 모델에서 이러한 제품 오버행을 식별하고 활용할 수 있는 상당한 기회가 존재한다고 믿습니다. 그는 창업자들에게 모델이 인지하는 한계를 약간 벗어나는 것처럼 보이는 과업으로 모델에 도전하게 하고, 가드레일 (guardrails)과 종료 기준 (exit criteria)을 명확히 정의한 다음, AI가 수행하도록 내버려 두라고 조언합니다. 그는 한 사용자가 OpenCV를 사용하여 이미지를 생성하는 Opus 5의 능력을 발견한 일화를 공유했는데, 적절한 프롬프팅을 통해 초상화와 풍경화를 생성할 수 있었으며, 이는 명시적인 학습을 통해서가 아니라 유기적으로 나타난 능력이었습니다.

AI와 코딩의 미래

Cherny는 매우 복잡한 시스템 코드나 분산 시스템 (distributed systems)과 같은 영역에는 여전히 복잡한 과제들이 남아있지만, 많은 작업에 있어 코딩이 점점 더 '해결된 (solved)' 상태가 되어가고 있다고 가정했습니다. 그는 AI 에이전트가 결국 코드의 100%를 작성할 수 있을지에 대한 의문을 제기하며, 현재 데스크톱 애플리케이션이 눈에 띄게 빨라졌음에도 불구하고 이 목표를 향한 여정은 계속 진행 중이라고 언급했습니다. 컴퓨터 과학을 공부하는 사람들, 특히 AI 에이전트 코딩의 출현 이전 세대에게 Cherny는 이론적 지식에만 매몰되기보다 스타트업이나 개인 프로젝트를 통한 실무적 적용에 집중할 것을 권장했습니다. 그는 진화하는 AI 환경에서 진정한 가치는 컴퓨터 과학 기술을 비즈니스 통찰력 (business acumen), 사용자 이해, 그리고 데이터 과학 (data science) 지식과 결합하는 데 있다고 강조했습니다.

이 논의는 AI를 활용함에 있어 경험적이고 실험적인 접근 방식의 중요성을 강조합니다. 실험을 통해 현재 모델의 동작을 이해하고 이전 모델들에 대한 선입견을 버림으로써, 사용자들은 Claude Code와 같은 고급 AI 시스템의 진정한 잠재력을 끌어낼 수 있습니다. AI의 미래와 Claude의 역할에 대해 더 깊이 알아보고 싶다면, anthropic claude code creator future에서 통찰력을 확인해 보세요.