사람이 에이전트의 출력물을 수정할 때, 그 결정은 어디로 기록되는가?
요약
인간과 AI 에이전트 간의 협업 과정에서 발생하는 결정과 수정 사항을 체계적으로 기록하기 위한 새로운 프로토콜인 CHAP를 소개합니다. CHAP는 인간의 판단을 구조화된 이벤트로 기록하여 규제 준수와 투명한 감사(audit)를 가능하게 합니다.
핵심 포인트
- 인간의 에이전트 출력물 수정 사항을 구조화된 이벤트로 기록
- 오버라이드, 승인, 핸드오프 과정을 증거 로그로 남겨 투명성 확보
- EU AI Act 등 규제 환경에 대응하기 위한 책임 있는 협업 설계
- MCP, A2A와 함께 인간-에이전트 공유 작업 공간을 정의하는 표준 지향
에이전트가 보험 청구에 대한 답변 초안을 작성합니다. 사람이 이를 읽고, 보험사가 의도하지 않은 내용을 약속하게 될 뻔한 문장 하나를 수정하여 발송합니다. 그 수정은 전체 상호작용에서 발생한 가장 가치 있는 단 하나의 사건입니다. 모델이 잡아낼 수 없었던 오류를 사람이 잡아낸 것입니다.
이제 그 수정 사항이 어디에 기록되는지 물어보십시오. 대부분의 프로덕션 시스템 (production systems)에서 그 답은 애플리케이션 코드, 채팅 스레드, 티켓 댓글, 혹은 그 누구의 기억 속에도 남지 않는다는 것입니다. 가장 중요했던 판단이 지속 가능한 흔적을 남기지 않습니다. 6개월 후, 규제 기관이나 고객이 누가 무엇을 왜 결정했는지 물었을 때, 당신은 대답할 수 없습니다.
이것은 지엽적인 문제가 아니며, 점점 더 커지고 있습니다. 파운데이션 모델 (Foundation models)은 단순히 "응답 생성" 단계를 넘어 운영 역할로 이동하고 있습니다. 모델은 단계별로 계획을 세우고, 도구 (tools)를 호출하며, 인간의 입력을 요청하고, 고객, 청구, 코드, 계약 및 임상적 결정과 관련된 작업에서 다른 에이전트들과 협업합니다. 실제 배포 환경은 더 이상 한 명의 인간이 하나의 모델을 감독하는 수준이 아닙니다. 팀, 시간대, 그리고 신뢰 경계를 넘나드는 다수의 인간과 다수의 에이전트 간의 협업입니다. 그리고 EU AI Act의 감독 의무가 다가옴에 따라, "인간이 통제하고 있었으며, 여기 그 기록이 있다"는 것은 단순히 주장하는 것이 아니라 증명할 수 있어야 하는 것이 되고 있습니다.
이미 두 가지 프로토콜이 이 세계의 일부를 표준화했습니다. MCP는 에이전트가 도구와 데이터에 접근하는 방식을 표준화했습니다. A2A는 에이전트들이 서로 대화하는 방식을 표준화했습니다. 하지만 둘 다 인간과 에이전트가 책임감 있는 작업을 함께 수행하는 공유 작업 공간 (shared workspace)을 정의하지는 않습니다. 그 간극을 채우는 것이 바로 CHAP입니다.
Collaborative Human-Agent Protocol인 CHAP는 인간의 판단을 기록되는 일급 시민 (first-class) 이벤트로 취급합니다. CHAP 하에서는:
- 오버라이드 (Override)는 차이점 (diff), 근거 (rationale), 그리고 콘텐츠 해시 (content hash)를 포함하는 구조화된 이벤트가 됩니다. 즉, 변경 사항과 그 이유, 그리고 나중에 변경되지 않았음을 증명하는 증거가 됩니다.
- 인간의 승인 (approval)은 몇 년 후에도 다시 재생 (replay)할 수 있는 서명된, 부인할 수 없는 (non-repudiable) 결정이 됩니다.
- 교대 근무 간의 핸드오프 (handoff)는 다음 사람이 읽지 못할 수도 있는 고정된 메시지가 아니라, 휴대 가능한 엔벨로프 (envelope)가 됩니다.
- 이 모든 것은 추가만 가능한 (append-only) 증거 로그 (evidence log)에 기록됩니다.
이 설계는 중심부는 의도적으로 작게, 가장자리는 확장 가능하게 구성되었습니다. 최소한의 코어 (Core)가 워크스페이스 (workspaces), 참여자 (participants), 작업 (tasks), 아티팩트 (artefacts), 그리고 증거 로그 (evidence log)를 정의합니다. 조합 가능한 프로필 (Composable profiles)은 검토 (review), 라우팅 (routing), 심의 (deliberation), 핸드오프 (handoff), 신원 (identity), 서명 (signatures), 그리고 투명성이 보장된 감사 (transparency-backed audit) 기능을 추가하므로, 가벼운 내부 도구와 엄격하게 규제되는 임상 시스템 모두 동일한 프로토콜을 사용하면서 필요한 기능만 활성화할 수 있습니다.
모든 것은 공개되어 있습니다. 사양 (specification)은 CC-BY 4.0 하에, 코드는 Apache 2.0 하에 게시되었으며, 상호 운용 가능한 두 개의 참조 구현체 (reference implementations)와 주요 에이전트 프레임워크 (Pydantic AI, LlamaIndex, AG2, Google ADK)를 위한 어댑터 (adapters)가 제공되므로, 이미 사용 중인 에이전트에 바로 추가할 수 있습니다.
아직 초기 단계이며, 지금 이를 공개하는 목적은 논쟁의 대상이 되기 위함입니다. 만약 당신이 실질적인 책임을 지는 에이전트를 구축한다면, 저희는 당신이 모델을 읽고, 당신의 워크플로 (workflow)에 적용해 보며, 모델이 제대로 작동하지 않는 부분이 어디인지 저희에게 알려주기를 바랍니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 Dev.to AI tag의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기