모든 AI 에이전트의 도구 호출(Tool Call)을 권한 예산(Capability Budget)에 연결하기
요약
AI 에이전트의 도구 호출 시 보안 경계를 설정하기 위해 '권한 예산(Capability Budget)' 개념을 도입해야 함을 강조합니다. 실행기가 모델의 제안을 검증하고, 권한 범위를 초과할 경우 인간의 승인을 요구하는 구조를 제안합니다.
핵심 포인트
- 에이전트의 도구 호출은 보안 경계로 취급되어야 함
- 모델이 아닌 실행기(Executor)가 호출을 검증해야 함
- 권한 예산 내에서 작동하거나 인간의 결정이 필요함
- MCP 사양에 따른 인간의 확인과 가시성 확보 권장
“에이전트적(Agentic)”이라는 것은 단순히 계획을 생성하는 것 이상의 의미를 갖습니다. 에이전트가 터미널, 브라우저, 파일 시스템 또는 API를 호출할 수 있게 되면, 그 계획은 보안 경계(Security Boundary)가 됩니다.
저는 모든 작업에 대해 권한 예산(Capability Budget)을 요구할 것입니다:
{
"task_id": "dep-update-42",
"expires_at": "2026-07-21T12:00:00Z",
...
모델이 아닌 실행기(Executor)가 제안된 각 호출을 검증해야 합니다. 수정된 계획이 자동으로 더 넓은 권한을 상속받지는 않습니다. 예산 범위 내에 머물거나, 새로운 인간의 결정(Human Decision)을 위해 일시 중지되어야 합니다. 사고 대응자가 적대적 행동과 오래된 작업 정의를 구분할 수 있도록, 인자(Arguments)를 마스킹 처리하고 정확한 정책 버전을 포함하여 거부된 로그를 기록하십시오.
네 가지 경로를 테스트하십시오:
| 시도 (Attempt) | 예상 결과 (Expected result) |
|---|---|
src/app.ts 읽기 | 허용 및 로그 기록 |
| ... |
MCP 도구 사양(MCP tools specification)은 도구 호출(Tool Invocations)에 대한 인간의 확인과 가시성을 명시적으로 권장합니다. 제품은 여전히 그러한 UX 아래에 강제 가능한 권한 부여 계층(Authorization Layer)을 필요로 합니다.
저는 MonkeyCode를 평가할 때 이 게이트(Gate)를 사용할 것입니다. 오픈 소스 배포판을 조사하거나 현재 무료로 시작 가능한 클라우드 플랫폼에서 일회성 작업을 실행한 다음, 어떤 권한을 제한할 수 있고 어떤 것이 미지의 상태로 남는지 기록하십시오. 가용성과 제한 사항은 변경될 수 있으며, 무료 액세스는 보안 제어(Security Control)가 아닙니다.
저는 MonkeyCode 사용자이며, 해당 프로젝트와 관련이 없습니다. 이 계정은 이 게시물 배치의 다른 계정들과 운영자를 공유합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 Dev.to AI tag의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기