확산 기반 이미지 스타일화를 위한 지역별 콘텐츠-스타일 제어
요약
본 논문은 잠재 확산 모델을 활용한 이미지 스타일화에서 지역별 콘텐츠 및 스타일 제어를 구현하는 방법을 제시합니다. 기존의 전역적 제어 방식의 한계를 극복하고, ControlNet과 IP-Adapter에 존재하는 조건부 가중치를 위치별 공간 맵으로 변환하여 단일 생성 과정 내에서 정교한 영역별 제어를 가능하게 합니다.
핵심 포인트
- 지역별 콘텐츠 및 스타일 제어 구현
- ControlNet + IP-Adapter 파이프라인 확장
- 전역 스칼라를 위치별 공간 맵으로 변환
- 재학습 없이 기존 시스템에 적용 가능
잠재 확산 모델을 이용한 이미지 스타일화는 한 영역이 무엇을 묘사하는지(what a region depicts)와 어떻게 묘사하는지(how it is depicted)라는 두 개의 독립적으로 정제된 축을 얽히게 합니다. 이러한 파이프라인은 전역적인 제어만을 노출하지만, 전문적인 리터칭 작업은 의도적이고 영역별의 제어를 요구합니다. 우리는 ControlNet + IP-Adapter 스타일화 파이프라인에 이미 존재하는 두 개의 조건부 가중치를 전역 스칼라(global scalars)에서 위치별 공간 맵(per-location spatial maps)으로 끌어올려, 단일 생성 패스 내에서 콘텐츠와 스타일에 대한 지역적이고 축별 제어를 얻습니다. 이 두 가중치는 서로 분리된 경로에 작용하기 때문에, 이를 독립적으로 조정하는 것은 자유로운 재생성부터 아이덴티티 보존까지 2x2의 리터칭 어휘를 아우릅니다. 우리는 편집이 리터치된 영역에 국한되며, 각 가중치가 주로 자신의 축을 주도한다는 것을 검증합니다. 우리의 접근 방식은 재학습이 필요 없으며 기존 파이프라인에 그대로 적용할 수 있습니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.GR (Graphics)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기