멀티스케일 복잡 시스템의 생성형 AI 진단: 스케일 감지 적대적 분석

요약

본 논문은 초음파 난류부터 우주 구조까지 연속적인 스케일을 가지는 복잡한 물리 시스템에 적용되는 생성형 AI 모델의 진단 프레임워크를 제시합니다. 기존의 XAI 방법론이 픽셀 단위의 국소적 섭동에 의존하여 비물리적 아티팩트를 생성하는 한계를 극복하고자 합니다. 제안된 접근 방식은 스케일 감지 변형(CDD)을 기반으로 하는 확산 모델과 결합되어, 물리적으로 제약된 데이터 공간에서 모델의 연속적인 멀티스케일 인과성을 평가하고 알고리즘적 취약점을 진단할 수 있게 합니다.

핵심 포인트

• 기존 XAI 방법론은 국소적 섭동에 의존하여 비물리적 아티팩트를 생성하는 한계가 있다.
• 제안된 프레임워크는 스케일 감지 변형(CDD)을 활용하여 물리적으로 제약된 데이터 생성을 가능하게 한다.
• 확산 기반 모델(DDPM)에 CDD를 적용하여 연속적인 멀티스케일 공간에서 결정론적 개입을 수행했다.
• 모델이 크로스 스케일 연속성을 유지하지 못할 때, 미지의 물리 상태로의 생성 경로가 발산하는 취약점을 진단할 수 있다.
• 본 방법은 AI 모델에 자연계의 멀티스케일 인과성 및 엄격한 물리적 제약을 적용하여 테스트 환경을 제공한다.