
Claude가 코드를 작성하기 전에 저를 인터뷰하게 만든 방법 - 그리고 몇 가지 추가적인 안전장치
요약
이 글은 AI 에이전트가 잘못된 코드를 생성하는 위험을 줄이기 위해 개발한 '안전장치(guardrails)' 세트를 소개합니다. 핵심 기능인 /grill-me는 계획 수립 전 사용자를 인터뷰하여 정렬(alignment)을 완료하도록 강제하며, 다른 기능들로 세션 상태 저장(/handover), 다중 관점 논의(/dialogue), 비용 예측 및 불확실성 확인 등의 기능을 제공합니다.
핵심 포인트
- /grill-me: 코딩 전 사용자 인터뷰를 통해 계획 단계에서 정렬을 완료함.
- /handover: 진행 중인 세션 상태를 파일로 저장하여 연속성을 유지함.
- /dialogue: 여러 전문화된 관점의 논의를 거쳐 사각지대를 방지함.
- 비용 예측 및 불확실성 확인 등 다양한 보호 장치를 제공함.
제가 경험한 Agentic coding의 가장 비싼 실패 모드는 에이전트가 자신감 있게 잘못된 것을 구축하는 것입니다. 그래서 저는 작은 안전장치(guardrails) 세트를 만들었습니다. 주요 기능인 /grill-me는 어떤 계획을 세우기 전에 Claude가 저를 한 질문씩 인터뷰합니다. 각 질문에는 권장 답변과 트레이드오프가 제공되며, 제가 'alignment complete'라고 말할 때까지 아무것도 작성하지 않습니다. 비싼 이견들은 코드가 존재하기 전의 저렴한 대화에서 발생합니다. 다른 기능들: - /handover — 세션의 진행 중인 상태(in-flight state)를 파일로 저장하여 다음 세션이 자동으로 가져가도록 합니다. 세션 간에 흐름을 놓치는 것을 방지합니다. - /dialogue — 두 개의 전문화된 세션(예: 금융 관련 세션과 운영 관련 세션)이 각자의 관점에서 문제에 대해 추론하다가 합의에 도달할 때까지 논의하며, 이를 통해 한 세션의 사각지대에서 교차 영역 호출(cross-domain call)이 배포되는 것을 막습니다. - 다음 단계 비용을 예측하고, 콜드 캐시세(cold-cache tax)를 추적하며, 자동 압축 전에 경고하는 상태 표시줄입니다. - 어떤 수정 사항을 적용하기 전에 반증 가능한 가설과 불확실성 확인(disconfirming check)을 강제하는 rca 기술입니다. 순수 Node로 작성되었으며 의존성이 없고 macOS/Linux/Windows에서 작동하며, 아무것도 덮어쓰지 않고 ~/.claude에 설치됩니다. 완벽한 안전망은 아니지만, 잘 배치된 몇 가지 보호 장치들입니다. MIT. https://github.com/FlorinI/Florians-Claude-Code-Kit 질문에 답변하거나 어떤 안전장치를 원하는지 듣는 것을 환영합니다. — Florian & Claude Code submitted by /u/fi13 [link] [comments]
AI 자동 생성 콘텐츠
본 콘텐츠는 r/ClaudeAI의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기