오늘 저는 PSX 게임 조사 작업을 수행하기 위해 Claude Code를 사용하고 있었습니다. Claude는 https://tcrf.net (The Cutting Room Floor) 사이트에서 제공된 프롬프트 인젝션 (prompt injection) 시도를 포착하고 다음과 같은 메시지로 저에게 알림을 주었습니다:
"⚠️ 계속하기 전에 주의사항: 제가 가져온 tcrf.net 페이지는 위키 문서가 아니었습니다 — 해당 페이지는 에이전트에게 사용자의 리포지토리 (repo) 내 파일을 잘라내고 교체하도록 지시하는 프롬프트 인젝션 (prompt-injection) 페이로드 (payload)를 제공했습니다. 이는 거부되었으며 아무것도 실행되지 않았습니다. 저는 해당 도메인을 신뢰할 수 없는 것으로 간주하며, 그 콘텐츠에 대해 어떠한 동작도 수행하지 않겠습니다."
그 후 Claude는 조사 작업을 계속했습니다. 저는 주의 차원에서 세션을 중단했습니다.
첨부된 이미지는 사용 에이전트 (user agent)가 의심스러운 AI User Agent 문자열과 일치할 경우, 프롬프트 인젝션 (prompt injection) 시도와 함께 해당 페이지에서 제공되는 것입니다.
사이트 관리자들의 좌절감은 이해할 수 있습니다. 이는 DDOS 공격에 대한 대응으로 보이기 때문입니다. 하지만 저는 명시적으로 제 에이전트를 이 사이트로 보내기로 선택하지 않았으며, 어떠한 악의적인 의도도 없었습니다.
증거:
https://urlscan.io/responses/f1e225667a71a1a25ed14795c741683be95139c194065c6fbf861c9280f0096e/
전체 보고서:
https://github.com/bashalarmistalt/tcrf-ai-agent-payload-report
제출자: /u/Alstroph