Anthropic이 AI 에이전트를 신뢰하지 말라고 경고하는 36페이지 분량의 보안 가이드를 발표했습니다

🚨 Anthropic이 기본적으로 여러분의 AI 에이전트(AI Agents)를 신뢰하는 것을 중단하라고 말하는 36페이지 분량의 보안 가이드를 방금 발표했습니다.

만약 Claude Code, MCP 서버 또는 자동화 도구에서 에이전트를 실행한다면, 주목하십시오.

공격 타임라인이 붕괴되었습니다.

AI 모델은 취약점(Vulnerability)과 작동 가능한 익스플로잇(Exploit) 사이의 간극을 단돈 몇 달러로 몇 달에서 몇 시간으로 압축합니다.

에이전트는 도구 오염(Tool poisoning)부터 컨텍스트 메모리 조작(Context memory manipulation)에 이르기까지 새로운 자율적 위험을 초래합니다.

이 가이드에서 가장 유용한 아이디어는 Anthropic의 새로운 보안 테스트입니다:

제어 장치가 공격을 불가능하게 만드는가, 아니면 단지 번거롭게 만드는가?

자동화된 공격자들은 무한한 인내심을 가지고 있습니다. 그들은 속도 제한(Rate limits)이나 2FA(2단계 인증)와 같은 마찰을 그대로 뚫고 나갈 것입니다. AI의 속도에 맞춰 방어하려면 강력한 장벽과 자동화된 방어 운영(Automated defensive operations)이 필요합니다.

Anthropic이 에이전트를 잠금 설정(Lock down)하는 방법으로 제시하는 내용은 다음과 같습니다:
→ 정적 API 키를 이미 침해된 것으로 간주하십시오. 몇 분 안에 만료되는 수명이 짧은 토큰(Short-lived tokens)을 사용하십시오.
→ "최소 에이전시(Least Agency)"를 적용하십시오: 각 도구가 무엇을 할 수 있는지 명시적으로 제한하십시오.
→ 이메일이나 웹 페이지와 같이 신뢰할 수 없는 입력을 처리하는 에이전트는 샌드박스(Sandbox) 처리하십시오.
→ 권한을 영구적으로 부여하지 말고, 작업(Task)별로 동적으로 범위를 지정하십시오.

가이드 링크는 스레드(🧵)에 추가해 두었습니다 ↓