Anthropic이 36페이지 분량의 보안 가이드를 발표했으며 메시지는 명확합니다: 당신의 AI 에이전트를 신뢰하지 마십시오.

🚨 Anthropic이 36페이지 분량의 보안 가이드를 발표했으며 메시지는 명확합니다: 당신의 AI 에이전트를 신뢰하지 마십시오.

Claude Code, MCP 서버 또는 기타 자동화 도구를 사용하고 있다면 계속 읽어보세요.

공격에 대응할 수 있는 시간은 거의 남아있지 않습니다.

AI를 이용하면 취약점(vulnerability)에서 작동 가능한 익스플로잇(exploit)으로 넘어가는 데 몇 달이 걸리지 않고, 단 몇 시간이 걸립니다. 그리고 비용도 고작 몇 달러에 불과합니다.

또한 에이전트는 완전히 새로운 공격 표면을 열어줍니다: 오염된 도구부터 컨텍스트 메모리(context memory)를 직접 조작하는 것까지입니다.

가이드 전체에서 가장 가치 있는 개념은 이 질문입니다:

이 제어가 공격을 불가능하게 만드는 것인가, 아니면 단순히 더 느리게 만드는 것인가?

자동화된 공격자는 지치지 않습니다.

속도 제한(rate limit)과 2FA는 장애물일 뿐, 벽은 아닙니다. AI의 속도로 진정한 보안을 원한다면, 하드웨어적인 장벽과 자동화되는 방어 수단이 필요합니다.

Anthropic이 에이전트를 보호하기 위해 권장하는 사항:

→ API keys를 이미 손상된 것으로 간주하십시오. 몇 분 만에 만료되는 토큰을 사용하세요.
→ 각 도구가 볼 수 있는 것이 아니라, 할 수 있는 것을 명시적으로 제한하십시오.
→ 이메일, 웹 또는 외부 데이터를 처리하는 모든 에이전트는 격리된 환경에서 실행하십시오.
→ 권한은 영구적이지 않고 작업(task)별로 부여되어야 합니다.

가이드 링크는 아래 스레드(🧵)를 참고하세요.

[quote @dravenip: 🚨 A FREE AI HACKER JUST WENT OPEN SOURCE, AND IT ATTACKS YOUR APP EVERY TIME YOU SHIP A RELEASE

GitHub에서 49,000개 이상의 별을 받았고 계속 증가하고 있습니다.

이것은 가능한 결함 목록을 제공하지 않습니다. 누가 침입할 수 있는지 정확히 보여줍니다.

그 이름은 Shannon이며, 오픈 소스 AI 펜테스터입니다.

You poi