3DEditSafe: 안전하지 않은 생성을 통한 3D 편집 파이프라인 방어

원문 발행 2026. 05. 15. 05:30원문 언어 영어AI 한국어 번역arXiv cs.GR (Graphics) 원문 보기

요약

3D Gaussian Splatting(3DGS) 기반의 3D 생성 편집 파이프라인에서 발생할 수 있는 NSFW 콘텐츠 생성 위험을 분석하고 이를 방어하는 3DEditSafe 프레임워크를 제안합니다. 기존의 2D 안전 가이드만으로는 3D 공간에서의 일관된 부적절한 콘텐츠 생성을 막기 어렵다는 점을 지적하며, 최적화 과정에서 안전 규제를 적용하는 새로운 방식을 제시합니다.

핵심 포인트

3D 생성 편집 파이프라인이 텍스트 프롬프트를 통해 여러 뷰에 걸쳐 NSFW 콘텐츠를 일관되게 생성할 수 있는 새로운 안전 위험을 발견함
2D 안전 가이드만으로는 3D 공간의 의미론적 전파로 인한 부적절한 콘텐츠 생성을 방지하기에 불충분함
3DEditSafe는 렌더링된 뷰의 3D 안전 규제, 안전한 의미론적 투영, 잔차 억제 등을 통해 최적화 과정을 제어함
안전성 강화와 생성 품질(fidelity) 사이의 트레이드오프 관계가 존재함을 밝힘

최근 3D 생성 편집 (3D generative editing), 특히 3D Gaussian Splatting (3DGS)에 기반한 파이프라인의 발전은 텍스트 프롬프트 (text prompts)로부터 고충실도(high-fidelity) 및 다중 뷰 일관성(multi-view-consistent)을 가진 장면 조작을 달성했습니다. 그러나 우리는 이러한 파이프라인이 안전하지 않은 프롬프트가 생성한 편집 내용이 여러 뷰(view)에 걸쳐 전파되고 최적화될 때 새로운 안전 위험을 초래한다는 것을 발견했습니다. 본 연구에서는 3D 편집 파이프라인에서의 안전하지 않은 생성 (unsafe generation)을 연구하며, 이러한 동작이 최종 3D 표현 (3D representation)에서 일관되고 바람직하지 않은 NSFW (Not-Safe-For-Work) 콘텐츠로 이어질 수 있음을 보여줍니다. 이를 해결하기 위해, 우리는 최적화 과정 중 안전하지 않은 의미론적 전파 (unsafe semantic propagation)를 제한하는 안전 규제 기반 3D 편집 프레임워크인 3DEditSafe를 제안합니다. 3DEditSafe는 생성 단계의 안전 가이드 (generation-stage safety guidance)를 렌더링된 뷰의 3D 안전 규제 (rendered-view 3D safety regularization), 안전한 의미론적 투영 (safe semantic projection), 잔차 억제 (residue suppression), 그리고 마스크 인지 보존 (mask-aware preservation)과 결합하여 최적화가 안전하지 않은 편집 방향으로 나아가지 않도록 유도합니다. 우리는 객체 호환 안전하지 않은 프롬프트 벤치마크를 사용하여 EditSplat 장면에서 우리의 접근 방식을 평가하였으며, 2D 안전 가이드 (2D safety guidance)만으로는 안전하지 않은 3D 편집을 방지하기에 일관되게 충분하지 않음을 보여줍니다. 3DEditSafe는 안전하지 않은 의미론적 정렬 (unsafe semantic alignment)과 뷰 수준의 공격 성공률 (view-level attack success rates)을 감소시키는 동시에, 더 강력한 안전하지 않은 내용 억제가 아티팩트 (artifacts)를 유발하거나 안전하지 않은 프롬프트의 충실도 (fidelity)를 감소시킬 수 있다는 안전-품질 트레이드오프 (safety-quality tradeoff)를 밝혀냅니다. 우리가 알기로, 본 연구는 텍스트 기반 3D 편집 파이프라인에서 안전하지 않은 생성을 연구하고 이에 방어하려는 첫 번째 시도이며, 최적화된 3D 표현에 직접 작동하는 안전 메커니즘의 필요성을 강조합니다.

AI 자동 생성 콘텐츠

원문 바로가기

3DEditSafe: 안전하지 않은 생성을 통한 3D 편집 파이프라인 방어

요약

핵심 포인트

댓글