인공지능 (AI)의 급격한 발전은 이전에는 인간의 영역으로만 여겨졌던 복잡한 작업을 수행할 수 있는 점점 더 정교한 에이전트들을 우리에게 가져다주고 있습니다. 그러나 이러한 에이전트들이 우리의 디지털 삶에 더 깊숙이 통합됨에 따라, 한 가지 중요한 질문이 떠오릅니다. 어떻게 그들의 보안과 통제를 보장할 것인가? 최근 개최된 AI Engineer World's Fair에서 Paola Estefania는 근본적인 우려 사항을 강조했습니다. 바로 현재의 AI 에이전트 권한 부여 (Authorization) 방식이 불충분하다는 점입니다. 그녀의 말을 빌리자면, "에이전트에게는 단순한 자격 증명 (Credentials)뿐만 아니라 더 나은 권한 부여가 필요합니다." 이 주장은 단순한 액세스 허용을 넘어, 에이전트의 정체성 및 역량 관리 (Capability Management)에 대한 훨씬 더 세밀한 접근 방식으로 나아가는 중요한 변화를 강조합니다.

아킬레스건: 과도한 권한을 가진 에이전트와 결함이 있는 보안 모델

현재 AI 에이전트 구현에서 가장 큰 골칫거리 중 하나는 과도한 권한 (Excessive Privileges) 문제입니다. 사용자가 이메일 관리, 일정 예약 또는 기타 민감한 데이터 접근을 위해 AI 에이전트에게 자신의 계정 접근 권한을 부여할 때, 종종 사용자 본인이 가진 것과 동일한 수준의 접근 권한을 부여하곤 합니다. 이는 신입 사원에게 CEO의 로그인 자격 증명을 주는 것과 같습니다. 오용, 사고로 인한 피해 또는 보안 침해로 이어질 수 있는 잠재적 영향은 매우 상당합니다.

Estefania는 이러한 관행이 근본적으로 결함이 있는 보안 모델을 나타낸다고 주장합니다.

• Capacidades (Capabilities): 표준 권한 (scopes)보다 더 세분화되어 있습니다. 일반적인 "읽기" 권한 대신, "발신자 X의 이메일 읽기" 또는 "수신자 Y에게 이메일 보내기"와 같이 정밀한 동작을 지정할 수 있습니다. 이를 통해 에이전트의 동작에 대해 믿기 힘들 정도로 상세한 제어가 가능해집니다.
• 정체성 (Identity): AI 에이전트에게 잠재적으로 개인 키 (private key)로 보호되는 자체적인 검증 가능한 정체성을 부여하는 것은 매우 중요합니다. 이러한 정체성을 통해 에이전트는 토큰에 서명하고 측정된 접근 권한으로 동작할 수 있습니다. 이는 로그가 단순히 사용자가 아닌 특정 에이전트의 동작을 명확하게 귀속시키도록 보장합니다.
• 추적 가능성 (Traceability): 별도의 정체성이 있으면 에이전트의 동작을 추적할 수 있습니다. 에이전트가 부적절하게 행동하거나 침해를 당할 경우, 해당 에이전트의 구체적인 출처를 식별하여 권한을 선택적으로 취소할 수 있습니다. 이는 더 높은 수준의 신뢰와 책임감을 촉진합니다.

에이전트 인증 프로토콜 (Agent Auth Protocol): 안전한 상호작용을 위한 프레임워크

이러한 비전을 실현하기 위해 새로운 프로토콜인 Agent Auth Protocol이 개발되고 있습니다. 이 프로토콜은 세 가지 주요 계층에서 작동합니다:

1. 플러그인 계층 (Plugin Layer): 이 계층은 서비스가 사용 가능한 자신의 기능을 게시할 수 있도록 합니다. 그러면 AI 에이전트는 이러한 기능을 발견하고 조회하여 특정 서비스로 어떤 동작을 수행할 수 있는지 이해할 수 있습니다.
2. 레지스트리 계층 (Registry Layer): 에이전트 기능의 관리 및 발견을 위한 중앙 지점 역할을 합니다.
3. 클라이언트 계층 (Client Layer): AI 에이전트가 상주하는 곳으로, 레지스트리 및 플러그인과 상호작용하여 승인된 동작을 요청하고 실행합니다.

이 프로토콜은 아직 더 오래된 인증 방식에 의존하는 서비스들을 위해서도 적응 가능하도록 설계되었습니다. 미들웨어 (middleware)를 통해 OpenAPI JSON과 같은 기존의 API 명세 (specifications)를 역량 기반 (capabilities-based) 시스템으로 변환할 수 있습니다. 이는 더욱 원활한 전환과 향상된 호환성을 보장합니다.

데모 및 향후 전망

최근의 데모는 이 프로토콜의 실질적인 적용 사례를 보여주었습니다. 에이전트가 어떻게 역량 (capabilities)을 발견하고, 이메일 읽기와 같은 특정 동작에 대해 권한 부여 (authorization)를 요청하며, 이러한 동작들이 에이전트에 대한 명확한 귀속 (attribution)과 함께 어떻게 기록되는지를 입증했습니다. 이러한 엔드 투 엔드 (end-to-end) 추적 가능성 (traceability)은 AI 에이전트 시스템에 대한 신뢰를 구축하는 데 필수적입니다.

개발 팀은 이미 프로토콜 버전 2를 작업 중이며, 여기에는 다단계 워크플로 (multi-step workflows)를 위한 개선 사항과 장기 실행 에이전트 (long-running agents) 지원이 포함될 예정입니다. 궁극적인 목표는 AI 에이전트가 강력할 뿐만 아니라, 광범위한 도입을 위해 입증 가능한 수준으로 안전하고 신뢰할 수 있게 만드는 것입니다. 단순한 자격 증명 (credentials)을 넘어 강력한 권한 (authority) 및 신원 (identity) 시스템을 채택함으로써, 우리는 내재된 리스크를 완화하는 동시에 AI 에이전트의 모든 잠재력을 끌어낼 수 있습니다.

tags: ai agents, artificial intelligence, security, authorization, identity management, protocol, capabilities, traceability