카메라가 생성형 AI를 사용할 때 이미지의 진위성 확보 방안

요약

생성형 AI(GenAI) 기술이 카메라 이미지에 깊숙이 통합되면서, 딥러닝 기반의 이미지 처리 과정에서 '환각(hallucinated)' 콘텐츠가 발생할 위험성이 커졌습니다. 본 논문은 사용자가 촬영한 이미지가 실제 원본과 다르게 변질되었을 가능성을 해결하기 위해 개발되었습니다. 제안된 방식은 카메라 ISP에 의존하지 않고, 포스트-캡처 단계에서 이미지의 '환각되지 않은' (unhallucinated) 버전을 복원할 수 있는 인코더와 MLP 디코더를 제공합니다. 이 모델은 저장 공간을 최소화하여 JPEG나 HEIC 같은 표준 이미지

핵심 포인트

• GenAI가 카메라 ISP에 통합되면서, 디지털 줌이나 저조도 개선 등에서 의미론적 오류(hallucination)가 발생할 수 있습니다.
• 제안된 방법은 포스트-캡처 단계에서 작동하며, 카메라의 ISP 접근 없이 이미지 원본을 복원하는 것이 가능합니다.
• 복원 모델(인코더 및 MLP 디코더)의 저장 공간 요구량이 180 KB로 매우 작아, JPEG나 HEIC 같은 표준 메타데이터에 쉽게 포함될 수 있습니다.
• 사용자는 이 기술을 통해 카메라 이미지 콘텐츠가 인위적으로 변형되었는지 여부를 확인할 수 있어 진위성 검증이 가능해집니다.