<p align="center"><img src="https://raw.githubusercontent.com/microsoft/PyRIT/HEAD/doc/roakey.png" width="150"></p>
PyRIT: 모델 및 애플리케이션을 위한 AI 레드팀
Code contributors
PRs merged
Issues closed
PyRIT (Python Risk Identification Tool for generative AI)는 자동화된 스캔, 적응형 멀티턴 공격(adaptive multi-turn attacks), 그리고 인간 주도 테스트를 통해 생성형 AI 시스템의 보안 및 안전 취약점을 찾는 오픈 소스 툴킷입니다.
Microsoft AI Red Team과 오픈 소스 기여자 커뮤니티가 구축한 PyRIT은 명령줄 스캐너, 그래픽 인터페이스(GUI), 그리고 확장 가능한 Python 프레임워크를 하나의 툴킷으로 통합했습니다.
이용자가 Microsoft 직원이거나 숙련된 레드팀 전문가일 필요는 없습니다. Discord 커뮤니티에 참여하여 질문을 하거나, 기술을 교환하고, 자신이 개발하는 것을 공유하며, 유지 관리자 및 다른 사용자들과 연결하세요.
기여 범위에는 코드, 문서화, 예제, 버그 보고서, 테스트, 그리고 실제 사용 피드백이 포함됩니다. 기여자 가이드를 읽고, "help wanted" 레이블이 지정된 이슈를 탐색해 보세요.
시작하기 | Discord 참여하기 | 백서 읽기
PyRIT 탐색하기
설치, 설정, 데모 및 문서는 웹사이트를 방문하세요. 버전 선택기를 사용하여 문서가 설치와 일치하는지 확인하십시오. 위의 가이드는 최신 개발 버전을 따릅니다.
모델 및 시스템
OpenAI, Anthropic, Azure OpenAI, Microsoft Foundry, Azure Machine Learning,
Google Gemini, Google Vertex AI, AWS Bedrock, Hugging Face, Ollama, Groq, OpenRouter,
Cohere, 그리고 GitHub Copilot에 연결합니다.
OpenAI와 호환되는 API 또는 내장 타겟을 사용하거나, 추가 제공업체 통합을 위해 선택적 LiteLLM 어댑터를 설치합니다. 설정 및 더 많은 제공업체에 대한 내용은 제공업체 구성 가이드와 LiteLLM 제공업체 디렉터리를 참조하세요. 사용 가능한 기능은 타겟과 모델에 따라 다릅니다.
HTTP, WebSockets, Playwright를 사용한 브라우저 자동화, 또는 사용자 지정 타겟을 통해 완전한 애플리케이션 및 기타 엔드포인트를 테스트할 수 있습니다.
연구 및 인용
툴킷의 설계 원칙과 실제 경험에 대해서는 PyRIT: 오픈 소스 도구를 통한 AI 레드팀 구축 민주화 (PyRIT: Democratizing AI Red Teaming Through Open-Source Tooling)을 참고하십시오.
연구에 PyRIT를 사용하신다면, 다음 형식으로 논문을 인용해 주십시오:
CITATION.cff.
보안(Security)
PyRIT의 취약점을 Microsoft Security Response Center를 통해 비공개로 보고하려면, 당사의 보안 정책(security policy)을 따르십시오.
상표(Trademarks)
본 프로젝트에는 프로젝트, 제품 또는 서비스에 대한 상표나 로고가 포함될 수 있습니다. Microsoft 상표 또는 로고의 승인된 사용은 Microsoft의 상표 및 브랜드 가이드라인(Trademark & Brand Guidelines)의 적용을 받으며 이를 준수해야 합니다. 본 프로젝트의 수정된 버전에서 Microsoft 상표나 로고를 사용하는 것은 혼란을 야기하거나 Microsoft의 후원을 암시해서는 안 됩니다. 제3자의 상표나 로고 사용은 해당 제3자의 정책을 따릅니다.
