PAVE: 생성형 에이전트 사회에서의 정당한 위반을 위한 인지 아키텍처 (Cognitive Architecture)

요약

LLM 기반 생성형 에이전트가 비상 상황 등에서 규칙을 정당하게 위반할 수 있도록 설계된 새로운 인지 아키텍처 PAVE를 제안합니다. PAVE는 지각, 평가, 판결, 모사의 4개 모듈을 통해 상황의 심각성을 판단하고, 권위를 존중하면서도 필요한 경우에만 제한된 범위 내에서 규칙을 위반하는 구조화된 의사결정을 수행합니다.

핵심 포인트

• PAVE는 Perception, Assessment, Verdict, Emulation의 4단계 모듈로 구성된 엔드 투 엔드 인지 아키텍처입니다.
• 에이전트가 정당한 위반, 권위 존중, 제한된 범위, 상태 회복이라는 네 가지 핵심 속성을 동시에 만족하도록 설계되었습니다.
• Voville 환경에서의 실험 결과, PAVE는 기존 바닐라 모델보다 더 구조화되고 해석 가능한 결정을 내리며 인간 평가자로부터 높은 신뢰를 얻었습니다.
• 정당성 게이트(Legitimacy gate)가 에이전트의 합리적인 규칙 위반을 결정짓는 핵심 요소임을 입증했습니다.