기억에 의존하여 스킬을 작성하는 것을 멈추세요
요약
AI 에이전트의 '스킬'을 작성할 때 인간의 기억에 의존하는 방식의 위험성을 경고합니다. 스킬은 단순한 프롬프트가 아니라 실제 에이전트 세션에서 추출된 증거와 패턴을 기반으로 체계화되어야 합니다.
핵심 포인트
- 스킬은 기억이 아닌 실제 에이전트 세션의 증거(evidence)에서 시작해야 함
- 기억에 의존한 스킬 작성은 중요한 맥락이 누락되는 '손실이 발생하는 내보내기'임
- 에이전트와 엔지니어 간의 세션에서 발생하는 지식 사일로 현상을 주의해야 함
- 성공적인 스킬은 실행 과정의 오류, 설정, 예외 케이스를 포함해야 함
스킬(Skills)이 주목받는 시기입니다. 모든 에이전트 플랫폼이 스킬을 출시하고 있고, 모든 팀이 스킬을 위한 폴더를 만들기 시작했으며, 스킬은 AI 엔지니어링 스택의 차세대 추상화 계층(abstraction layer)처럼 취급되고 있습니다. 저는 이것이 옳다고 생각합니다. 또한 이번 주에 작성된 대부분의 스킬은 1년 전 프롬프트(prompts)가 작성되었던 방식과 동일하게 작성되었다고 생각합니다. 즉, 무엇이 효과적이었는지 기억하고 있다고 확신하는 누군가가 기억에 의존하여 수동으로 작성했다는 것입니다.
스킬이 스택의 일부가 되려면 출처(provenance)가 필요합니다. 그렇지 않으면 우리는 그저 더 멋진 이름을 가진 프롬프트 라이브러리(prompt libraries)를 다시 구축하고 있는 것에 불과합니다.
스킬은 작성하고 작동하기를 바라는 대상이 아닙니다. 그것은 이미 수행된 에이전트 세션에서 추출된 패턴이어야 합니다. 만약 당신의 팀이 세션 기록(session history) 없이 수동으로 스킬을 작성하고 있다면, 당신은 무엇이 효과적이었는지를 체계화하고 있는 것이 아닙니다. 당신은 더 나은 포맷으로 추측하고 있는 것뿐입니다.
"프롬프트는 의도(intention)에서 시작합니다. 스킬은 증거(evidence)에서 시작해야 합니다."
기억으로부터 작성된 스킬은 손실이 발생하는 내보내기입니다
이것이 핵심입니다. 대부분의 팀은 실제로 일어난 일이 아니라, 자신들이 배웠다고 생각하는 것에서 스킬을 작성하고 있습니다.
AI 개발의 제도적 지식(institutional knowledge)에 관한 2026년 3월 연구 논문은 이 문제를 정확하게 설명합니다. 각 커밋(commit)은 코드 차이(code diff)를 캡처하지만, 그 뒤에 숨겨진 추론, 즉 제약 조건, 거부된 대안, 그리고 결정을 형성한 미래 지향적 맥락은 버립니다. 그들은 이렇게 버려진 추론을 ["결정 그림자("Decision Shadow.")"]라고 부릅니다. (https://arxiv.org/pdf/2603.15566)
스킬 파일도 동일한 그림자를 가지고 있습니다. 당신은 기억하는 것을 작성합니다. 당신이 알고 있었다는 사실조차 잊어버린 것은 빠뜨립니다. 실제로 작동했던 세션에는 진짜 신호(signal)가 들어 있었습니다. 구체적인 오류, 마침내 적용된 설정(config), 당신이 그 자리에 있었기에 마주할 수 있었던 예외 케이스(edge case) 같은 것들 말입니다. 당신은 단지 그것을 보관하지 않았을 뿐입니다. 일주일 후에 당신이 적어 내려간 것은 확신에 차 있지만 불완전한 80% 버전이며, 다음 사람을 구할 수 있었던 바로 그 부분을 놓치고 있습니다.
그것이 바로 손실이 발생하는 내보내기 (lossy export)입니다. 원본처럼 보이지만, 다시 되돌릴 수 없는 데이터가 누락되어 있습니다.
사일로 (Silo)는 이제 세션 사이에 존재합니다
에이전트 (Agents)는 새로운 종류의 사일로를 만들어냅니다. AI 코딩 팀에 대한 연구에 따르면, AI 도구가 문제 해결을 중재할 때 조직은 지식 사일로 및 대인 신뢰 감소의 실질적인 위험에 직면합니다. 과거에는 문제 해결이 사람들 사이에서 일어났고, 적어도 누군가는 그것을 엿들을 수 있었습니다. 하지만 이제는 한 명의 엔지니어와 에이전트 사이에서, 아무도 볼 수 없는 세션 내에서 발생합니다. 따라서 사일로는 더 이상 엔지니어들 사이에만 존재하는 것이 아닙니다. 그것은 세션 사이에 존재합니다. 캡처 (capture) 없이 에이전트가 수행하는 모든 실행은, 그것을 실행한 사람을 포함하여 그 누구에게도 도달하기 전에 증발해 버리는 조직적 지식입니다.
해결책은 더 많은 도구에 문서화 규율을 억지로 덧붙이는 것이 아닙니다. 업무를 보존할 가치가 있는 것으로 취급하는 것입니다. 의도적인 지식 공유를 장려하기 위한 Code Climate의 이니셔티브 — 주요 결정 사항을 기록하고 새로운 작업 경로를 문서화하는 것 — 는 처리량 (throughput)을 거의 70%까지 높이는 데 도움이 되었습니다.
"AI로부터 이득을 얻고 있는 팀은 프롬프팅 (prompting)을 더 잘하는 팀이 아닙니다. 그들은 에이전트가 하는 일을 보존할 가치가 있는 것으로 취급하는 팀입니다."
세션을 캡처함으로써 실제로 얻는 것
캡처는 사일로를 다시 공유 지식으로 전환하는 핵심 요소입니다. 세션이 스크롤백 버퍼 (scrollback buffer)가 아닌 지속 가능한 기록 (durable record)이 되면, 다음과 같은 결과가 뒤따릅니다.
- 무엇이 왜 작동했는지 확인할 수 있습니다. 요약본이 아니라, 실제 경로를 볼 수 있습니다.
- 스킬 (Skills)은 사후 재구성이 아니라, 성공한 세션으로부터 나옵니다.
- 팀은 당신의 근사치가 아닌 실제 패턴을 물려받습니다.
- 지식이 한 사람의 터미널 히스토리(terminal history) 속에만 머물며, 탭 하나만 닫으면 사라지는 상황을 방지합니다.
이것은 더 이상 비주류의 의견이 아닙니다. 에이전트 기반 소프트웨어 엔지니어링 (agentic software engineering)으로의 전환을 연구하는 연구자들은 구현 사항과 함께 요구사항, 에이전트 지침 (agent instructions), 설계 근거 (design rationale)의 저장소를 유지하는 것이 조직의 지식을 유지하고 인지 부채 (cognitive debt)를 줄이는 데 필수적이라고 강조합니다. 세션 히스토리 (Session history)가 바로 그 저장소입니다. 이를 두 번 작성할 필요는 없습니다. 단 한 번 캡처하고 지속적으로 개선 (keep improving it)하기만 하면 됩니다.
Brian은 이를 처음부터 끝까지 실행했습니다. 그는 두 개의 리포지토리 (repos)에서 동일한 버그를 발견했고, 두 번째로 처음부터 다시 디버깅하는 대신 기록된 세션에서 수정 사항을 추출했습니다. 그는 전체 이야기를 작성했으며, 그 과정에서 실제로 모든 행(row)을 직접 겪었기 때문에 스킬 (skill)이 자동으로 캡처한 문제 해결 테이블 (troubleshooting table)도 포함되었습니다.
우리가 반복하려는 실수
우리가 paper console 플랫폼에서 스킬을 출시한 것은 스킬이 단순히 있으면 좋은 기능이기 때문이 아니라, 업계가 프롬프트 (prompts)에서 저질렀던 것과 동일한 실수를 스킬에서도 저지를 예정이기 때문입니다. 즉, 스킬을 운영 아티팩트 (operational artifacts)가 아닌 영리한 텍스트처럼 취급하는 것입니다.
프롬프트 라이브러리 (prompt library)는 진보처럼 느껴졌습니다. 하지만 그것은 사실 누군가에게 한 번 작동했던 것들이 언제, 어디서, 왜 작동했는지에 대한 기록도 없이 서랍 속에 가득 차 있는 것에 불과했습니다. 스킬 역시 기억에 의존하여 작성하는 순간 그 결함을 그대로 물려받게 됩니다. 형식은 개선되었을지 모르지만, 출처 (provenance)는 개선되지 않았습니다.
그것이 바로 paper console이 피하고자 설계된 실수입니다. 이미 실행한 세션(session)을 지정하면, paper console은 실제로 발생한 일로부터 스킬을 생성합니다: 실제 명령(command), 실제 오류(error), 그리고 효과가 있었던 해결책(fix) 말입니다. 스킬은 터미널 속에 묻혀 있지 않습니다. 팀 전체가 보고, 실행하고, 이를 바탕으로 구축할 수 있도록 콘솔에 노출됩니다. 한 엔지니어가 화요일에 혼자 수행한 디버깅 세션은 수요일에 누구나 불러올 수 있는 스킬이 됩니다. 이것이 사일로(silo)를 해소하는 부분입니다. 지식이 한 개인의 이력 속에 머무는 것을 멈추고, 팀이 이미 확인하는 곳에서 살아 움직이기 시작합니다.
생성(Generation)은 실행할 때마다 점점 더 조여지는 루프(loop)의 한 단계입니다:
- 에이전트(agent)를 실행합니다.
- 세션을 캡처(capture)합니다.
- 실제로 발생한 일을 검사(inspect)합니다.
- 반복되는 패턴을 추출(extract)합니다.
- 스킬을 생성(generate)합니다.
- 검토(review)합니다.
- 재사용(reuse)합니다.
- 개선(improve)합니다. 그러면 다음 세션에서 루프가 다시 시작됩니다.
첫 번째 단계 이후의 모든 단계는 첫 번째 단계를 유지했는지 여부에 달려 있습니다. 캡처하지 않은 세션을 검사할 수 없으며, 검사할 수 없는 패턴은 추출할 수 없습니다. 스킬은 이 루프의 입력값이 아니라, 루프의 결과물입니다.
증거로 시작하세요
paper CLI를 설치하세요:
curl -fsSL https://download.papercompute.com/install | sh
그 다음 paper start claude를 실행하고 캡처를 시작하세요. 당신이 유지하는 첫 번째 세션은 팀이 실제로 배울 수 있는 첫 번째 세션이 될 것이며, paper console에서 생성하는 첫 번째 스킬은 추측이 아닌 증거(evidence)에서 시작된 첫 번째 스킬이 될 것입니다.
기억에 의존하여 스킬을 작성하는 것을 멈추세요. 당신의 기억은 손실이 발생하는 내보내기(lossy export)입니다. 세션은 그렇지 않습니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 Dev.to AI tag의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기