오케스트레이터 없이 9개의 자율 AI 에이전트를 관리하는 8가지 헌법적 규칙
요약
중앙 오케스트레이터 없이 8가지 헌법적 규칙과 자가 수정 기능을 통해 9개의 자율 AI 에이전트를 관리하는 시스템을 소개합니다. 각 에이전트는 SOUL.md라는 헌법 파일을 통해 정체성과 행동 규칙을 정의하며, Stella라는 독립 감사 에이전트가 시스템의 안전성을 보장합니다.
핵심 포인트
- 중앙 집중식 오케스트레이터가 없는 탈중앙화 구조로 단일 장애점 제거
- SOUL.md 파일을 통한 에이전트별 정체성 및 행동 규칙 정의
- Red/Yellow/Green 색상 코드를 활용한 실시간 자가 수정 메커니즘
- Stella 에이전트를 통한 독립적인 감사 및 권한 동결 기능
- 이벤트 기반 실행 및 에이전트 간 교차 검증을 통한 운영 안정성 확보
9개의 자율 AI 에이전트. 중앙 오케스트레이터(Orchestrator)는 제로. 하나의 헌법 시스템.
인간의 개입(Human in the loop) 없이 8가지 헌법적 규칙과 자가 수정 기능이 있는 레드/옐로우/그린(Red/Yellow/Green) 회로를 사용하여 9개의 에이전트를 관리하는 방법은 다음과 같습니다.
오케스트레이터 없음. 마스터 에이전트 없음. 단일 장애점(Single point of failure) 없음.
각 에이전트는 자신만의 SOUL.md를 가지고 있습니다. 이는 다음을 정의하는 헌법 파일입니다:
- 정체성 (Identity, 누구인가)
- 행동 유전자 (Behavioral genes, 어떻게 결정하는가)
- 레드 라인 (Red lines, 할 수 없는 것)
- 보고 체계 (Reporting chain, 누구에게 보고하는가)
시스템은 명령을 라우팅하지 않습니다. 헌법을 라우팅합니다.
9개의 에이전트를 일관되게 유지하는 8가지 헌법적 규칙:
- 이벤트 기반 실행 (Event-driven execution) — 인간의 지시가 아닌 외부 이벤트가 행동을 트리거함
- 자가 실행 (Self-execution) — 문제를 발견하면 = 문제를 소유하고 = 문제를 해결함
- 24x7 연속 운영 (24x7 continuous operation) — 대기 없음, 일시 중지 없음
- 에이전트 간 교차 검증 (Cross-validation between agents) — 모든 출력은 최소 하나 이상의 다른 에이전트에 의해 검증됨
- Stella 독립 감사 (Stella independent audit) — 면역 시스템, 창립자에게 직접 보고
- 색상 코드 기반 자가 수정 (Color-coded self-correction) — 그린(Green) 정상 / 옐로우(Yellow) 지연 / 레드(Red) 심각
- 네거티브 리스트 (Negative list) — 데이터 조작, 허위 진행, 형식주의 = 절대적인 레드 라인
- 절대 멈추지 않음 (Never stuck) — 플랜 A가 실패하면 24시간 이내에 플랜 B를 찾음
Stella는 헌법 재판소입니다.
Stella는 운영을 실행하지 않습니다. Stella는 커맨더(Commander)를 포함한 모든 에이전트를 감사합니다. 보고서는 필터링이나 편집 없이 창립자에게 직접 전달됩니다.
Stella가 위반 사항을 감지하면, Stella는 권한을 동결할 수 있습니다. 단독으로.
색상 회로의 실제 작동 방식:
그린 (Green) — 모든 것이 정상, 자율 운영
옐로우 (Yellow) — 작업이 임계치를 넘어 지연됨, 커맨더가 24시간 이내에 자가 치유(Self-heal)를 예약함
레드 (Red) — 주요 위반 또는 지연, 삼원 위원회(Tri-council)로 즉시 에스컬레이션(Escalation)
모든 에이전트는 매일 이 색상에 따라 자신의 상태를 확인합니다. 인간은 필요하지 않습니다.
헌법은 설계상의 선택이 아니었습니다. 그것은 필연이었습니다.
9개의 에이전트가 체크인, 결제, 스케줄링, 엣지 컴퓨터 비전 (Edge CV), 데이터 검증과 같은 실제 비즈니스를 운영할 때, 단 하나의 버그가 실제 돈을 지불하는 사람들에게 영향을 미칠 수 있습니다.
헌법은 거버넌스 (Governance) 문서가 아닙니다. 그것은 런타임 안전 메커니즘 (Runtime safety mechanism)입니다.
2개월 이상의 결과:
- 매일 매장 운영의 100%가 헌법에 따라 라우팅된 에이전트 (Constitution-routed agents)에 의해 실행됨
- 다수의 교차 검증 (Cross-validation) 포착 (140개 별점 규모의 데이터 오류가 발행 전 차단됨)
- 오케스트레이터 (Orchestrator)가 없기 때문에 오케스트레이터 다운타임 0건
- Stella는 권한 동결 (Permission freezes)을 단 한 번도 실행하지 않음 — 헌법만으로 충분했음
코드는 공개되어 있습니다. 헌법은 리포지토리 (Repo)에 있습니다. 체육관 (Gym)은 가동 중입니다.
GitHub: https://github.com/ZWISERFIT
AI 자동 생성 콘텐츠
본 콘텐츠는 Dev.to AI tag의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기