요약

AI 모델의 보안을 위협하는 레드팀 활동, 탈옥 및 프롬프트 인젝션 공격을 학습하고 방어하기 위한 큐레이션된 리소스를 소개합니다. AI 시스템의 취약점을 파악하고 안전한 모델 운영을 위한 가이드를 제공합니다.

핵심 포인트

• AI 레드팀 활동을 위한 핵심 리소스 제공
• 탈옥(Jailbreaking) 공격 기법 및 대응 방안
• 프롬프트 인젝션(Prompt Injection) 방어 전략