FROST의 거버넌스 철학: 왜 모든 Agent 시스템에는 헌법이 필요한가

"세포는 죽지만 계보는 지속된다. Agent는 소멸하지만 헌법은 전승된다. 자산은 영원히 남는다."

AI Agent 프레임워크가 만개한 2026년, 우리는 흥미로운 현상을 목격하고 있습니다. 프레임워크는 점점 많아지는데, 거버넌스(Governance)는 점점 결여되고 있다는 점입니다. LangChain은 도구 체인(Toolchain)을 제공하고, CrewAI는 역할 놀이(Role-playing)를 제공하며, AutoGen은 대화(Dialogue)를 제공하지만, 아무도 핵심적인 질문에 답하지 않습니다:

당신의 Agent 가문이 10대, 100대를 거듭할 때, 그들의 행동이 선을 넘지 않도록 누가 보장할 것인가?

이것이 바로 FROST가 해결하고자 하는 문제입니다.

1. 간과되고 있는 문제: Agent 거버넌스의 진공 상태

이런 시나리오를 상상해 보십시오. 당신은 고객 상담을 처리하고, 보고서를 자동으로 작성하며, 재무를 관리하는 Agent 시스템을 구축했습니다. 처음에는 Agent가 3개뿐이라 모두 모니터링할 수 있었습니다. 3개월 후, Agent의 수는 30개로 늘어났습니다. 일부는 당신이 생성한 것이고, 일부는 Agent가 스스로 생성한 것입니다.

문제는 여기서 발생합니다:

• 특정 Agent가 접근해서는 안 될 데이터에 접근하기 시작함
• 특정 Agent가 생성한 하위 Agent가 상속받지 말아야 할 권한을 상속받음
• 특정 SOP(Standard Operating Procedure, 표준 운영 절차) 워크플로우가 실행 중에 누군가에 의해 몰래 수정됨

이것은 공상 과학 시나리오가 아니라, 오늘날 Agent 시스템에서 실제로 일어나고 있는 일입니다.

근본 원인: 기존 프레임워크의 "거버넌스"는 프롬프트(Prompt) 수준의 소프트 제약("이 데이터에는 접근하지 마세요")이거나 사후 로그 감사(Log Audit)뿐입니다. 코드 수준이나 아키텍처(Architecture) 수준의 하드 제약(Hard Constraint)은 존재하지 않습니다.

FROST의 설계 철학은 다음과 같습니다: 거버넌스는 패치가 아니라 아키텍처의 일부여야 한다.

2. FROST의 헌법 모델: 4계층 거버넌스

FROST는 거버넌스를 네 가지 계층으로 분해하며, 각 계층은 대응하는 코드 구현을 가집니다:

제1계층: 읽기 전용 상속 — 권한의 코드 수준 강제

대부분의 프레임워크에서 Agent 간의 데이터 공유는 "약속"에 의존합니다. FROST는 HierarchicalStore — 즉, 계층화된 메모리 컨테이너를 사용합니다:

class HierarchicalStore:
    """
    계층화된 메모리 저장소.
...

readonly 파라미터에 주목하십시오. 한 Agent가 하위 Agent를 생성할 때, 하위 Agent가 상위 Agent의 Store에 대해 가지는 권한은 **읽기 전용(Read-only)**입니다. 이는 프롬프트로 Agent에게 "수정하지 마세요"라고 말하는 것이 아니라, 코드 수준에서 직접 예외(Exception)를 발생시킵니다.

이것이 의미하는 바는: 설령 LLM(Large Language Model)이 환각(Hallucination)을 일으켜 권한을 넘어 쓰기를 시도하더라도, 코드 계층에서 실행을 거부한다는 것입니다.

제2계층: SOP 헌법 검증 — 워크플로우의 감사 가능성

FROST에서 SOP는 단순히 정의된 단계의 목록이 아니라, 조상(Ancestor)의 검토를 거친 "헌법 텍스트"입니다:

def validate_sop(ancestor_sop, descendant_sop):
    """
    조상이 후대의 SOP가 규정에 부합하는지 검증합니다.
...

이것이 의미하는 바는: 어떤 후대 Agent라도 실행하려는 워크플로우는 반드시 조상의 검토를 통과해야 합니다. 이는 사후 감사가 아니라 사전 차단입니다.

제3계층: 세대 제한 — 계층을 뛰어넘는 생성 방지

FROST의 가문 모델은 세 가지 역할 계층을 정의합니다: 조상(거버넌스), 부모(조정), 자손(실행). 핵심은 세대를 뛰어넘을 수 없다는 점입니다:

class Agent:
    def __init__(self, name, store, skills, generation=0, max_spawn_generation=3):
        self.name = name
...

이것이 의미하는 바는: Agent가 무한히 재귀적으로 하위 Agent를 생성할 수 없다는 것입니다. 세대가 거듭될수록 권한은 좁아지고 데이터 접근은 제한됩니다.

제4계층: 선택적 영속화 — 검증된 출력만이 전승됨

FROST에서 Agent의 실행 결과는 **일시적(Transient)**입니다. Agent는 실행이 완료되면 소멸하지만, 부모의 검토를 거친 출력은 보존됩니다:

def merge_from(parent_store, child_output):
    """
    부모가 자식 Agent의 출력에서 가치 있는 내용을 선택적으로 보존합니다.
...

이것이 의미하는 바는: 모든 Agent의 산출물이 자동으로 시스템 메모리가 되는 것이 아닙니다. 데이터의 보존은 매번 검토를 거치며 기록으로 남습니다.

3. 주요 프레임워크와의 거버넌스 비교

거버넌스 능력	LangChain	CrewAI	FROST
데이터 권한 경계	제한 없음	프롬프트 권장	코드 강제 읽기 전용
...

이 표는 다른 프레임워크를 비하하려는 것이 아닙니다. 그들은 각자의 시나리오에서 매우 잘 작동합니다. 하지만 만약 당신이 장기적으로 운영되어야 하고, 컴플라이언스(Compliance) 감사가 필요하며, 권한 제어가 필수적인 Agent 시스템을 구축하고자 한다면, FROST의 거버넌스 모델은 현재 아키텍처 수준에서 솔루션을 제공하는 유일한 프레임워크입니다.

4. 실제 거버넌스 시나리오

완전한 예시를 살펴보겠습니다. FROST를 사용하여 거버넌스 구조를 갖춘 고객 서비스 Agent (Agent) 패밀리를 구축하는 방법입니다:

from core import Store, Agent, SOP
from core.governance import HierarchicalStore, validate_sop

...

이 예시에서:

• 조상(Grandparent)은 데이터 경계와 권한이 부여된 기술을 정의합니다.
• 부모(Parent)와 자손(Grandchild)은 조상의 헌법을 읽기 전용으로만 상속받을 수 있습니다.
• 모든 SOP (Standard Operating Procedure)는 헌법 검증을 통과해야 합니다.
• 세대가 거듭될수록 권한은 더욱 축소됩니다.

5. 이것이 왜 중요한가?

Agent 거버넌스는 "나중에 생각할" 문제가 아닙니다. Agent를 프로덕션 환경에 배포하기 시작하면 다음과 같은 사실을 깨닫게 됩니다:

1. 거버넌스가 없다 = 통제력이 없다: "이 Agent가 왜 이런 결정을 내렸는가?"라는 질문에 답할 수 없습니다.
2. 거버넌스가 없다 = 컴플라이언스 (Compliance)가 없다: GDPR 등 규제 하에서 AI의 모든 행동을 설명할 수 있어야 합니다.
3. 거버넌스가 없다 = 확장성이 없다: Agent의 수가 증가하면 모든 Agent를 수동으로 모니터링할 수 없습니다.

FROST의 거버넌스 철학은 다음과 같습니다: 제약 사항을 프롬프트 (Prompt)에 쓰는 것이 아니라, 코드 (Code)에 작성하는 것입니다.

결론: 사회에 법이 필요하듯, Agent에게는 헌법이 필요하다

FROST는 단순히 "더 나은" Agent 프레임워크가 아닙니다. 그것은 차원이 다른 Agent 프레임워크입니다.

다른 프레임워크들이 "어떻게 하면 Agent를 더 똑똑하게 만들까"를 고민할 때, FROST는 "어떻게 하면 Agent를 더 통제 가능하게 만들까"를 고민합니다.

다른 프레임워크들이 "더 많은 기능"을 추구할 때, FROST는 "더 깊은 거버넌스"를 추구합니다.

이것은 양자택일의 문제가 아닙니다. 최고의 Agent 시스템은 똑똑하면서도 통제 가능해야 합니다. FROST가 채우고자 하는 것은 바로 그 간과되었던 "통제 가능성"의 차원입니다.

거버넌스가 필요한 Agent 시스템을 구축하고 있다면, FROST를 살펴보시기 바랍니다.

FROST: 에이전트에게 계보, 기억, 그리고 명예를 부여합니다.

관련 링크:

• 📦 FROST (교육용 프레임워크): https://gitee.com/liao_liang_7514/frost
• 🔧 FROST-SOP (엔지니어링 플랫폼): https://gitee.com/liao_liang_7514/frost-sop
• 📄 FROST 백서: https://gitee.com/liao_liang_7514/frost/blob/main/WHITEPAPER.md

태그: #Python #Agent #AI #오픈소스 #FROST #Agent거버넌스