현재 가장 높은 알파(alpha)를 얻을 수 있는 방법은 매우 간단하지만 대부분의 사람들은 시도하지 않을 것입니다...
요약
이 글은 AI 코딩 세션의 성능과 효율성을 극대화하는 방법을 제시합니다. Langfuse 스타일의 관측 가능성 대시보드를 구축하여, 사용된 모델, 도구 호출 횟수, 오류율 등 핵심 데이터를 분석하도록 지침을 제공합니다. 이를 통해 에이전트 시스템 개선을 위한 구체적인 가이드라인(모델 라우팅, 스킬 정의)을 얻을 수 있습니다.
핵심 포인트
- Langfuse 스타일의 관측 가능성 대시보드 구축이 핵심입니다.
- 세션별/도구별 성능 지표(지연 시간, 오류율 등)를 분석해야 합니다.
- 분석 결과를 바탕으로 모델 라우팅 및 스킬 정의 개선안을 도출합니다.
- AI 코딩 워크플로우의 최적화는 관측 가능성 확보에서 시작됩니다.
지금 당장 가장 높은 알파(alpha) 수익률을 낼 수 있는 방법은 너무 간단해서 대부분의 사람들이 시도조차 하지 않습니다...
자신에게 맞는 하네스(harness)를 만드세요.
이것은 귀하의 AI 출력물의 품질과 속도를 10배 향상시킬 것입니다.
이 하나의 프롬프트를 에이전트에 붙여넣으세요:
---------start of the prompt----------
지난 7일간 저 자신의 AI 코딩 세션으로부터 Langfuse 스타일의 관측 가능성(observability) 대시보드를 구축해 주세요.
소스 (로컬에서 읽기 전용):
- Claude Code: ~/.claude/projects/**/*.jsonl
- Codex: ~/.codex/sessions/**/*.jsonl (및 ~/.codex/history.jsonl)
절대로 비밀 정보(secrets), 키(keys) 또는 전체 프롬프트 텍스트를 출력하지 마세요. 스니펫은 최대 10단어이며, 키, 경로, URL 및 긴 ID는 제거되어야 합니다.
단계 1. 도구별로 계산하는 표준 라이브러리(stdlib) 전용 Python 스크립트를 작성하세요:
- 일자별 세션 수, 사용자 프롬프트, 도구 이름별 도구 호출 횟수, 도구 및 오류 유형별 실패한 도구 호출 횟수
- 사용된 모델, 모델별 일자별 토큰(입력, 출력, 캐시 읽기/쓰기)
- 도구 호출 지연 시간 p50/p95 (전체 및 도구별); 세션 길이 p50/p95
- 토큰 기준 상위 세션, 가장 긴 세션, 재시도 횟수(오류 발생 후 동일한 도구 호출 반복)
- 작업 유형(빌드, 디버그, 배포, 리서치, 작문, UI, 검토, 기타)으로 클러스터링된 프롬프트
- 프로젝트별(작업 디렉토리)로 그룹화된 세션, 서브 에이전트 실행 플래그 지정
만약 로그에 기록되지 않은 것이 있다면 "not logged"라고 작성하세요. 절대로 숫자를 지어내지 마세요.
결과를 harness-summary.json으로 저장하세요.
STEP 2. 단일 파일 dashboard.html을 렌더링합니다 (다크 모드, 애니메이션 숫자 및 차트):
- 요약 스트립(Summary strip): 총 도구 호출 수, 프롬프트 수, 오류율, 토큰 수, p95 지연 시간
- 트레이스 테이블(Traces table): 세션별 한 행 (도구, 프로젝트, 시작 시점, 지속 시간, 프롬프트, 도구 호출, 오류, 토큰, 모델); 검색, 도구별 필터링, 정렬, 서브 에이전트 실행 숨기기 토글 기능
- 트레이스 상세(Trace detail): 세션을 클릭하면 해당 턴과 도구 호출의 폭포수 차트가 표시되며 ok/error 여부 및 지속 시간이 포함됨
- 프로젝트별 세션 수, 모델별 시간 경과에 따른 토큰 사용량, 모델 테이블 (토큰, 오류율)
- 도구별 지연 시간 보기(Latency view per tool), 그리고 도구 및 오류 유형별로 그룹화된 오류 탐색기(error explorer)
- 휴리스틱 점수(Heuristic scores) (도구 성공률, 재시도 횟수, 세션당 건강 상태 등), '휴리스틱'으로 명확하게 라벨링
파일이 너무 커지면 토큰 기준으로 상위 200개 세션까지만 임베디드 트레이스를 제한합니다.
STEP 3. 데이터로부터 HARNESS.md를 작성하여 CLAUDE.md / AGENTS.md에 대한 변경 사항을 제안합니다:
- 모델 라우팅(Model routing): 내가 사용한 것과 실패했던 것을 기반으로 어떤 작업 유형에 어떤 모델을 사용할지
- 도구(Tools): 유지할 것 (사용 빈도 높고 실패율 낮음), 수정할 것 (실패율 높음), 제거할 것 (거의 사용되지 않음)
- 스킬(Skills): 3회 이상 반복된 모든 작업 유형에 대해, 트리거 라인과 단계가 포함된 스킬 정의
- 가드레일(Guardrails): 나의 상위 3가지 실패 패턴과 각 패턴을 방지하는 체크 기능
- 예산(Budget): 나의 상위 5개 토큰 소모처와 각각의 소모를 줄일 수 있는 변경 사항
각 제안의 근거가 되는 세션을 인용합니다.
STEP 4. 어떤 설정도 변경하기 전에 5가지 핵심 수치와 제안된 diff를 보여주세요. 저는 매주 검토하고 데이터가 보여주는 것만 변경할 것입니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 X 토픽: AI 도구/개발의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기