3DEditSafe: 안전하지 않은 생성을 통한 3D 편집 파이프라인 방어

최근 3D 생성 편집 (3D generative editing), 특히 3D Gaussian Splatting (3DGS)에 기반한 파이프라인의 발전은 텍스트 프롬프트 (text prompts)로부터 고충실도(high-fidelity) 및 다중 뷰 일관성(multi-view-consistent)을 가진 장면 조작을 달성했습니다. 그러나 우리는 이러한 파이프라인이 안전하지 않은 프롬프트가 생성한 편집 내용이 여러 뷰(view)에 걸쳐 전파되고 최적화될 때 새로운 안전 위험을 초래한다는 것을 발견했습니다. 본 연구에서는 3D 편집 파이프라인에서의 안전하지 않은 생성 (unsafe generation)을 연구하며, 이러한 동작이 최종 3D 표현 (3D representation)에서 일관되고 바람직하지 않은 NSFW (Not-Safe-For-Work) 콘텐츠로 이어질 수 있음을 보여줍니다. 이를 해결하기 위해, 우리는 최적화 과정 중 안전하지 않은 의미론적 전파 (unsafe semantic propagation)를 제한하는 안전 규제 기반 3D 편집 프레임워크인 3DEditSafe를 제안합니다. 3DEditSafe는 생성 단계의 안전 가이드 (generation-stage safety guidance)를 렌더링된 뷰의 3D 안전 규제 (rendered-view 3D safety regularization), 안전한 의미론적 투영 (safe semantic projection), 잔차 억제 (residue suppression), 그리고 마스크 인지 보존 (mask-aware preservation)과 결합하여 최적화가 안전하지 않은 편집 방향으로 나아가지 않도록 유도합니다. 우리는 객체 호환 안전하지 않은 프롬프트 벤치마크를 사용하여 EditSplat 장면에서 우리의 접근 방식을 평가하였으며, 2D 안전 가이드 (2D safety guidance)만으로는 안전하지 않은 3D 편집을 방지하기에 일관되게 충분하지 않음을 보여줍니다. 3DEditSafe는 안전하지 않은 의미론적 정렬 (unsafe semantic alignment)과 뷰 수준의 공격 성공률 (view-level attack success rates)을 감소시키는 동시에, 더 강력한 안전하지 않은 내용 억제가 아티팩트 (artifacts)를 유발하거나 안전하지 않은 프롬프트의 충실도 (fidelity)를 감소시킬 수 있다는 안전-품질 트레이드오프 (safety-quality tradeoff)를 밝혀냅니다. 우리가 알기로, 본 연구는 텍스트 기반 3D 편집 파이프라인에서 안전하지 않은 생성을 연구하고 이에 방어하려는 첫 번째 시도이며, 최적화된 3D 표현에 직접 작동하는 안전 메커니즘의 필요성을 강조합니다.