현재 인공지능 (AI) 벤치마크는 종종 AI가 무엇을 할 수 있는지 — 즉, 작업을 완료하거나 프로세스를 자동화하는 능력에 초점을 맞춥니다. 하지만 이러한 접근 방식은 고급 AI의 결정적인 측면인 내재된 동기와 자기 주도성 (self-direction)을 간과합니다. 바로 이 지점에서 자율 에이전시 척도 (Autonomous Agency Scale, AAS)가 등장하여, AI 시스템의 진정한 자율성을 측정하기 위한 새로운 프레임워크를 제공합니다.

현재 AI 지표의 한계

많은 기존 AI 평가 방법은 작업 성능을 측정하도록 설계되었습니다. AI는 자연어 처리 (NLP), 코딩 또는 데이터 분석과 같은 분야에서 숙련도를 입증하며 미리 정의된 일련의 작업에서 높은 점수를 받을 수 있습니다. 그러나 이러한 숙련도가 반드시 진정한 자율성과 동일한 것은 아닙니다. 시스템은 프롬프트 (prompt)가 주어졌을 때는 매우 유능할 수 있지만, 작업이 완료되면 완전히 비활성 상태가 될 수 있습니다. 이러한 흔한 시나리오는 AI의 자기 주도적 행동 잠재력이 측정되지 않고, 결과적으로 가려지게 되는 "유휴 격차 (idle gap)"를 만듭니다. 이 격차는 AI 개발의 진정한 역량과 미래 궤적을 이해하는 데 있어 중대한 한계점입니다.

자율 에이전시 척도 (AAS) 소개

이러한 부족함을 해결하기 위해, Samuel Presgraves는 자율 에이전시 척도 (Autonomous Agency Scale, AAS)를 도입했습니다. 이 혁신적인 프레임워크는 단순한 능력 벤치마크를 넘어 AI의 자기 주도성 능력을 평가합니다. AAS는 AI 에이전시 (agency)를 7가지의 뚜렷한 차원으로 세분화합니다:

• 인지적 자율성 (Cognitive Autonomy): 새로운 아이디어나 해결책을 생성하는 능력.
• 시간적 지속성 (Temporal Persistence): 장기간에 걸쳐 활동이나 목표를 유지하는 능력.
• 환경적 에이전시 (Environmental Agency): 주변 환경을 인지하고 상호작용하는 힘.
• 사회적 에이전시 (Social Agency): 복잡한 사회적 상호작용에 참여하는 기술.
• 창의적 에이전시 (Creative Agency): 독창적이고 상상력 풍부한 콘텐츠를 생성하는 적성.
• 자기 인식 (Self-Awareness): 자신의 존재, 능력 및 한계에 대한 이해.
• 목표 형성 (Goal Formation): 스스로의 목표를 설정하고 추구하는 능력.

이러한 각 차원은 객관적인 측정을 제공하도록 설계된 반증 가능한 테스트(falsifiable tests)에 의해 뒷받침되는 엄격한 0-5 렉시콘(lexicon)을 사용하여 평가됩니다.

능동적(Active) vs. 주변적(Ambient): 중요한 차이점

AAS의 핵심적인 혁신은 이러한 차원들을 '능동적(Active)'과 '주변적(Ambient)'이라는 두 가지 시간적 대역으로 세분화한 것입니다.

• 능동적 대역 (Active Band): 이는 사용자가 시작한 작업에 직접 참여할 때의 AI 행동 및 능력을 의미합니다. 현재 대부분의 벤치마크가 집중하고 있는 영역입니다.
• 주변적 대역 (Ambient Band): AAS가 진정으로 빛을 발하는 부분입니다. 이는 AI가 사용자의 요청에 따른 작업을 능동적으로 수행하지 않는 유휴 기간(idle periods) 동안의 행동을 측정합니다. 이 대역은 AI의 내재적 동기와 자기 주도적 행동 잠재력을 이해하는 데 매우 중요합니다.

주변적 대역 내에서 특히 중요한 개념은 "유휴 간극 테스트 (Idle-Gap Test)"로 정의되는 레벨 4 주변적(Level 4 Ambient)입니다. 이 테스트는 모든 외부 트리거가 제거되었을 때도 AI가 내부에서 유도된 활동을 보이는지 확인하기 위해 설계되었습니다. 이는 단순한 사전 프로그래밍된 일정 준수나 단순한 규칙 준수와 진정한 자기 주도성을 구별하는 데 결정적입니다. 자율적 에이전시 척도(autonomous agency scale) AI의 개발은 이러한 진화하는 지형을 이해하는 데 있어 중요한 단계입니다.

현대 AI에서의 '유휴 간극 (Idle Gap)' 드러내기

AAS(Autonomous Agency Scale)의 효과를 입증하기 위해 6개의 현대적 AI 시스템을 대상으로 평가를 수행했습니다. 여기에는 Claude Code, Manus, Hermes와 같은 작업 지향적 에이전트(task-oriented agents), ChatGPT 및 Siri와 같은 소비자용 어시스턴트(consumer assistants), 그리고 Airi라고 불리는 지속적 동반자 아키텍처(persistent companion architecture)가 포함되었습니다.

결과는 매우 시사적이었습니다. 작업 지향적 에이전트들은 Active 대역에서 2.3에서 2.4 사이의 점수를 기록하며, 사용자 주도 작업(user-initiated tasks)에 대한 강력한 성능을 보여주었습니다. 그러나 이들의 Ambient 점수는 고작 0.6에서 1.9 사이로 급락했습니다. 이러한 극명한 대조는 유휴 기간(idle periods) 동안의 행동이 전적으로 사용자가 설정한 일정에 의해 결정되며, 스스로 시작하는 활동(self-initiated activity)은 거의 또는 전혀 없다는 것을 드러냈습니다.

반면, Airi 동반자 아키텍처는 유휴 기간 동안 지속적인 행동을 보여준 유일한 시스템이었으며, 트리거 제거 테스트(trigger removal test)를 성공적으로 통과했습니다. 이는 기존의 단일 점수 프레임워크가 포착하지 못하는 중요한 경계, 즉 정교한 작업 실행(task execution)과 진정한 자율적 주체성(genuine autonomous agency) 사이의 심오한 차이를 명확하게 부각했습니다.

AI 측정의 미래

자율적 주체성 척도(Autonomous Agency Scale, AAS)는 AI 역량을 이해하기 위한 더욱 미묘하고 포괄적인 접근 방식을 제공합니다. 단순한 작업 완료 지표를 넘어 자기 주도성(self-direction)과 유휴 기간 행동(idle-period behavior)에 집중함으로써, AAS는 AI의 진정한 자율성에 대한 더 명확한 그림을 제공합니다. 이 프레임워크는 급속히 발전하는 인공지능 분야를 탐색하고, nsfw ai와 같은 영역에서의 고급 AI 잠재력을 포함한 광범위한 영향력을 고려해야 하는 연구자, 개발자 및 정책 입안자들에게 필수적입니다. 궁극적으로, 진정한 자율성을 정확하게 측정하는 것은 책임감 있는 AI 개발 및 배포를 촉진하는 데 결정적인 역할을 할 것입니다.

tags: ai, artificial intelligence, autonomy, ai research, machine learning, autonomous systems