microsoft/RAMPART

요약

Microsoft에서 공개한 RAMPART는 에이전트형 AI 애플리케이션의 안전성과 보안을 테스트하기 위한 pytest 기반 프레임워크입니다. 적대적 공격과 유해 카테고리를 포함한 다양한 테스트 시나리오를 구조화된 방식으로 실행할 수 있도록 지원합니다.

핵심 포인트

• pytest와 원활하게 통합되는 에이전트 전용 테스트 프레임워크
• 적대적 공격 및 양성 실패에 대한 체계적인 검증 지원
• 다양한 유해 카테고리에 대한 평가 중심의 단언 기능 제공
• 개발자 친화적인 구조로 AI 에이전트 보안 테스트 자동화