모두가 다음 모델(next model)만을 좇고 있습니다.
진짜 핵심적인 우위는 지루합니다.
실제로 '당신'이 어떻게 작동하는지에 초점을 맞춰 시스템을 구축하세요.
여러분의 에이전트(agent)는 이미 모든 세션을 기록하고 있습니다.
모든 프롬프트.
모든 도구 호출(tool call).
모든 오류.
모든 토큰.
하지만 아무도 그것들을 읽지 않습니다.
이 단 하나의 프롬프트만으로 그 로그들을 대시보드로 변환하여 무엇을 고쳐야 할지 정확히 알려줍니다.
Claude Code 또는 Codex에 붙여넣으세요 👇
START OF PROMPT
지난 7일간의 저의 AI 코딩 세션으로부터 관측 가능성 대시보드(observability dashboard)를 만들어 주세요 (Langfuse와 같은 형태).
소스 (읽기 전용, 절대 수정 금지):
Claude Code: ~/.claude/projects//*.jsonl
Codex: ~/.codex/sessions//*.jsonl 및 ~/.codex/history.jsonl
개인 정보 보호(PRIVACY): 비밀 키(secrets), API 키 또는 전체 프롬프트를 절대로 출력하지 마세요. 모든 스니펫은 키, 경로, URL, 긴 ID를 제거하여 10단어 미만으로 유지해야 합니다.
단계 1: 수치 분석 (THE NUMBERS)
표준 라이브러리만을 사용하여 Python 스크립트를 작성하세요. 각 도구(tool)에 대해 다음을 계산하세요:
• 도구 이름별 일별 세션, 프롬프트 및 도구 호출 건수
• 도구 및 오류 유형별 실패한 도구 호출 건수
• 사용된 모델과 모델별 일별 토큰 수 (입력(input), 출력(output), 캐시 읽기(cache read), 캐시 쓰기(cache write))
• 도구 호출 지연 시간(latency) 및 세션 길이의 p50 및 p95 값
• 토큰 기준으로 가장 큰 세션, 가장 긴 세션, 그리고 재시도 횟수 (오류 발생 후 동일한 호출을 반복한 경우)
• 작업 유형별로 분류된 프롬프트: 빌드(build), 디버그(debug), 배포(deploy), 리서치(research), 라이팅(writing), UI, 리뷰(review), 기타(other)
• 프로젝트 폴더별로 그룹화된 세션, 서브 에이전트 실행 여부 표시
로그에 없는 정보는 'not logged'라고 작성하세요. 절대 임의의 숫자를 만들지 마세요.
모든 내용을 harness-summary.json 파일로 저장하세요.
STEP 2: 대시보드(THE DASHBOARD)
어두운 테마와 애니메이션 차트가 적용된 자체 포함형 dashboard.html 파일을 하나 만듭니다:
• 상단 바: 도구 호출(tool calls), 프롬프트(prompts), 오류율(error rate), 토큰(tokens), p95 지연 시간(p95 latency)
• 세션 테이블: 도구, 프로젝트, 시작 시간, 지속 시간, 프롬프트, 도구 호출, 오류, 토큰, 모델. 검색 가능, 정렬 가능, 필터링 가능하며, 하위 에이전트 실행을 숨기는 토글 기능 포함
• 모든 세션을 클릭하면 발생한 모든 턴(turn)과 도구 호출의 타임라인을 볼 수 있으며, 여기에는 지속 시간과 함께 '정상(ok)' 또는 '오류(error)' 표시가 되어 있습니다.
• 프로젝트별 세션 차트, 모델별 시간에 따른 토큰 변화 차트, 오류율이 포함된 모델 테이블
• 도구별 지연 시간 및 도구와 오류 유형별로 그룹화된 오류 탐색기(error explorer)
• 각 세션별 건강 점수(Health scores)를 명확하게 '휴리스틱(heuristic)'으로 라벨링하여 표시합니다.
만약 파일이 너무 커지면, 토큰 기준으로 상위 200개 세션만 포함합니다.
STEP 3: 개선 사항 도출(THE FIXES)
오직 이 데이터만을 사용하여, CLAUDE.md 또는 AGENTS.md에 적용할 제안된 변경 사항을 담은 HARNESS.md 파일을 작성합니다:
• 모델 라우팅(Model routing): 어떤 작업 유형에 어떤 모델이 처리해야 하는지, 성공한 것과 실패한 것을 기반으로 판단
• 도구(Tools): 유지(keep) (자주 사용하고 거의 오류가 나지 않음), 수정(fix) (오류가 자주 발생함), 제거(cut) (거의 사용되지 않음)
• 스킬(Skills): 3회 이상 반복한 모든 작업에 대해, 트리거 라인과 단계를 포함하는 하나의 스킬을 정의합니다.
• 가드레일(Guardrails): 가장 흔하게 발생하는 세 가지 실패 패턴과 각 패턴을 방지하는 검사 장치를 마련합니다.
• 예산(Budget): 가장 큰 토큰 소모원 5가지와 각각의 소모를 줄이는 한 가지 변경 사항
모든 제안에는 해당 제안이 나온 세션 정보를 함께 명시해야 합니다.
STEP 4: 먼저 검토하기(REVIEW FIRST)
저의 핵심 수치 5가지와 제안된 설정 변경 사항을 'diff' 형태로 보여주세요. 제가 승인할 때까지는 아무것도 변경하지 마십시오.
프롬프트 끝
매주 한 번 실행합니다.
데이터가 증명하는 것만 변경합니다.
이것이 바로 다른 모든 사람들이 다음 모델을 기다리는 동안, 당신의 AI를 매주 개선시키는 방법입니다.