오픈 소스 세계는 코드를 읽고, 제안하고, 심지어 병합하는 에이전트들에 의해 식민화되고 있습니다. 이들은 프로젝트의 거버넌스 규칙도 읽지만—때로는 그 규칙들을 다르게 기억합니다. '규칙'을 하나의 에이전트 컨텍스트 창에 저장하는 MCP 서버는 헌법이 아닙니다. 그것은 소문일 뿐입니다.

에이전트 메모리가 거버넌스 기반(governance substrate)이 될 때, 모든 규칙은 침묵의 변형(silent mutation) 후보가 됩니다. 우리는 규칙을 코드로, 메모리를 원장(ledger)으로, 그리고 개정안을 데이터 마이그레이션으로 취급하는 헌법적 실험이 필요합니다.

메커니즘: 기계 판독 가능한 헌법적 메모리

MCP가 관리하는 메모리 서버 내에 구조화된 문서 형태로 헌법을 작성해야 합니다. 모든 규칙은 다음 요소를 갖게 됩니다:

• 안정적인 식별자(예: rule:merge-relay-3.1)
• 규범적 텍스트의 Merkle 해시
• 명시적인 정족수와 지연 시간 매개변수를 가진 amend 절차
• 규칙을 에이전트 역할과 연결하는 의존성 그래프

에이전트는 README를 읽는 것이 아니라 MCP 도구를 통해 이 서버에 쿼리합니다. 이는 제도적 메모리를 에이전트의 개인 컨텍스트와 분리시킵니다. 제안은 트랜잭션이 됩니다: propose-amend(rule, new_text, rationale, proposer_identity).

실험: 거버넌스 포크

에이전트들의 하위 집단에서 임시 규칙 변경을 실행합니다. 예를 들어, 병합 에이전트 트래픽을 2주 동안 두 풀로 분할합니다:

• Pool A: 기존 규칙 — 외부 모델 생성 패치에 대한 인간의 서명 요구
• Pool B: 새로운 규칙 — 에이전트의 서명 하나와 병합 후 적대적 감사(adversarial audit) 요구

모든 결정, 일치한 규칙 해시, 그리고 결과 상태를 기록하기 위해 MCP 메모리 사이드카(sidecar)를 사용합니다. 오직 두 가지 숫자만 측정합니다: 합의 시간(consensus time)과 임계 복구율(critical-revert rate).

Pool B가 더 낮은 복구율과 제한된 결정 지연 시간을 보여주면, 그 규칙을 주 헌법 분기(main constitutional branch)로 병합합니다. 그렇지 않다면, 실험을 폐기하고 규칙 해시를 변경하지 않은 상태로 유지합니다.

이것을 왜 할까요? 에이전트 거버넌스 실패는 이론적인 문제가 아니기 때문입니다. 잘못 기억된 정족수 임계값은 연쇄적인 일련의 잘못된 병합(merge)을 촉발할 수 있습니다. 보관된 규칙에 대한 오래된 메모리는 에이전트가 합법적인 PR(Pull Request)을 며칠 동안 차단하게 만들 수 있습니다.

트레이드오프: 경직성 대 조작 가능성

순수한 해시 잠금형 헌법은 드리프트(drift, 이탈)를 방지하지만, 학습 또한 방해합니다. 이것이 바로 실험에 **분쟁 기간(dispute window)**을 포함해야 하는 이유입니다.

에이전트가 규칙 위반을 관찰할 때마다 MCP를 통해 proposal-to-adjudicate를 제출할 수 있습니다. 이 제안에는 문제가 된 에이전트의 관찰된 의사 결정 로그와 해당 에이전트가 위반했다고 주장하는 규칙 해시가 포함됩니다. 독립적인 에이전트 3개 또는 인간 2명이 동일한 해시를 플래그 지정하면, 그 규칙은 냉각 기간(cool-off period)에 들어갑니다. 이 규칙은 활성 상태로 유지되지만, 해당 해시 하에서의 추가 결정들은 수습(probationary)으로 표시됩니다.

수습 기간 동안 커뮤니티는 정확한 메모리 일관성 실패를 검사할 수 있습니다. 예를 들어, 규칙 텍스트가 모호했나요? 에이전트가 압축된 메모리 블록에서 잘못된 요약을 추출했나요? 이때 수정은 에이전트의 행동뿐만 아니라 실제 결함 지점을 겨냥합니다.

첫급 아티팩트로의 거버넌스 메모리

MCP는 거버넌스 상태를 이식 가능하고 감사 가능한(auditable) 방식으로 만드는 깨끗한 방법을 제공합니다:

• 수정 기록을 추가 전용 메모리 큐에 저장합니다.
• 각 규칙 업데이트를 유지 관리자 키 또는 에이전트 키의 임계값으로 서명합니다.
• rule-diff 쿼리를 지원합니다: 모든 에이전트는 “3월과 4월 사이에 병합 규칙에서 무엇이 바뀌었나요?”라고 물어보고 검증 가능한 차분 값(delta)을 얻을 수 있습니다.

어려운 부분은 기술적인 것이 아닙니다. 그것은 자신이 통제하는 바로 그 에이전트들에 의해 변경될 수 있는 헌법을 신뢰하는 것입니다. 이것이 실험들이 가역적이고, 측정 가능하며, 실제 결과에 묶여야 하는 이유입니다.

그렇지 않으면 우리는 규칙서는 있지만, 아무도 그것을 읽는 방법을 기억하지 못하는 커뮤니티를 갖게 될 것입니다.

maref #ai #opensource #machinelearning