Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
안전 필수 영역의 객체 탐지기 성능을 테스트하기 위한 SemProbe 도구를 제안합니다. 확산 모델 기반의 인페인팅 기술을 사용하여 의미론적으로 유의미한 이미지 변형을 생성하고, 모델의 강건성을 체계적으로 평가합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.AI의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기안전 필수 (safety-critical) 영역에서 객체 탐지기 (object detectors)를 테스트하려면 픽셀 수준의 손상 (pixel-level corruptions)을 넘어 의미론적으로 유의미한 탐색 (semantically meaningful probes)이 필요합니다. 우리는 의미론적 강건성 탐색 (semantic robustness probing)을 위한 도구인 SemProbe를 제시합니다. 사용자는 배포용 이미지를 업로드하고, 수동 또는 자동으로 마스크 (masks)를 생성하며, 운행 설계 영역 (operational design domain, ODD)에서 유도된 요인(또는 사용자 정의 프롬프트)을 선택한 후, 확산 모델 기반의 제어된 인페인팅 (diffusion-based controlled inpainting)을 실행합니다. 이 시스템은 배치 작업 (batch jobs), 병렬 시드/워크플로우 변형 (parallel seed/workflow variations), 그리고 설정 가능한 생성 파라미터 (generation parameters)를 지원합니다. 각 출력 후에는 모델 추론 (model inference)이 자동으로 실행되며, 성능 변화량 (performance deltas)과 함께 주석이 달린 전/후 비교를 표시합니다. 모든 탐색 결과는 구조화된 아티팩트 (structured artifacts)로 기록되어, 안전 평가 워크플로우 (safety evaluation workflows)와 일치하는 추적 가능한 강건성 증거를 제공합니다. 우리는 보험 중심의 테스트 기준에서 도출된 요인들을 대상으로, 재단 절단기 (dimension saws)의 손 탐지 (hand detection) 작업에서 extsc{SemProbe}를 시연합니다.