기존 보안은 권한(permissions)에 초점을 맞춥니다.

사용자가 특정 리소스에 접근할 수 있는가?
애플리케이션이 특정 작업을 수행할 수 있는가?
시스템이 특정 엔드포인트에 도달할 수 있는가?

AI 에이전트는 다른 종류의 문제를 야기합니다. 바로 '목적(Purpose)'입니다.

권한만으로는 그것이 왜 존재하는지 설명할 수 없습니다.
인간은 의도와 맥락을 자연스럽게 이해합니다.
직원이 고객 기록에 접근하는 것은 지원 목적일 수 있습니다.
하지만 그렇다고 해서 그 기록들이 모든 작업에 사용되어야 한다는 의미는 아닙니다.

AI 에이전트는 종종 이러한 구분을 자연스럽게 하지 못합니다.
그들은 접근(access)만 봅니다.
명령어(instructions)만 봅니다.
기회(opportunities)만 봅니다.

에이전트가 더 자율적으로 변함에 따라, 목적은 핵심적인 보안 통제 요소가 됩니다.
도전 과제는 단순히 권한을 관리하는 것에 국한되지 않습니다.
권한이 올바른 이유로 사용되도록 보장하는 것입니다.
이것이 바로 저희가 Crucible를 구축하는 이유 중 하나입니다.

Pytest for AI agents.

cybersecurity

artificialintelligence

opensource

githubopensource

security

buildinpublic

aiagents