본문으로 건너뛰기
arXiv논문2026. 10. 07. 01:13
Penumbra: 규제 의무에 대한 샘플 효율적인 적대적 탐색 대표 이미지

Penumbra: 규제 의무에 대한 샘플 효율적인 적대적 탐색

원문 발행 2026. 10. 04. 03:11원문 언어 영어AI 한국어 번역arXiv cs.CL 원문 보기

요약

본 글은 금융, 의료 등 규제 산업에서 AI 에이전트의 규정 준수(compliance)를 테스트하기 위한 새로운 적대적 탐색 기법 'Penumbra'를 소개합니다. Penumbra는 편집 예산 하에 작동하며, 검증된 기준점 주변을 이동하여 의무 위반 경계면을 효율적으로 커버하는 것이 목표입니다.

핵심 포인트

  • Penumbra는 규제 준수 테스트의 샘플 효율성을 높이는 적대적 탐색 기법이다.
  • 편집 예산(edit budget) 하에 작동하며, 기준점 주변에서 인접한 응답 쌍을 생성한다.
  • 균일 할당 대비 1.43배 많은 실패 모드를 커버하여 규제 레드팀 운영에 효과적이다.
  • 금융 자문 및 임상 분류 등 실제 시나리오에서 의무 위반 경계선을 성공적으로 탐지했다.

AI 자동 생성 콘텐츠

본 콘텐츠는 arXiv cs.CL의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.

원문 바로가기
2

댓글

0