최근 프롬프트 인젝션 (Prompt Injection) 및 데이터 유출 (Data Leakage)과 같은 대규모 모델 (Large Models)의 보안 위험과 관련된 사건이 점점 더 많이 발생하고 있습니다.

많은 보안 엔지니어들이 심도 있는 연구를 하고 싶어 하지만 어디서부터 시작해야 할지 몰라 합니다. awesome-ai-security라는 이 오픈 소스 (Open-source) 컬렉션을 확인해 보세요.

이 컬렉션에는 기초 보안 지식 학습, 레드팀 테스트 (Red Team Testing) 도구, 프롬프트 인젝션 (Prompt Injection) 탐지, 모델 스캐닝 (Model Scanning) 등 AI 보안 리소스 내용이 포함되어 있습니다.

GitHub:
http://
github.com/ottosulin/awes
ome-ai-security
...
또한 MCP 프로토콜 보안 스캐닝 (MCP Protocol Security Scanning), 에이전트 런타임 샌드박싱 (Agent Runtime Sandboxing), AI 지원 침투 테스트 프레임워크 (AI-assisted Penetration Testing Frameworks) 등 대규모 모델 및 에이전트 (Agents)를 위한 보안 도구들도 수집되어 있습니다.

이 리스트는 애플리케이션 시나리오별로 모듈이 명확하게 나누어져 있어, 필요한 자료를 빠르게 검색하는 데 도움을 줍니다.

이 리소스 컬렉션은 지속적으로 업데이트되고 있으므로, AI 애플리케이션 개발이나 보안 관련 업무를 수행하는 개발자들이 즐겨찾기에 추가하여 살펴보기에 적합합니다.