Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
신경망의 가중치 공간을 분석하기 위해 추론 과정의 순차적 특성을 반영한 동적 신경 그래프 인코더(DNG-Encoder)를 제안합니다. 이를 통해 암시적 신경 표현(INR)의 분류 성능을 기존 대비 약 10% 향상시켰습니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.AI의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기신경망을 암시적 데이터 표현(implicit data representations)으로 사용하는 기술이 급격히 발전함에 따라, 다른 신경망의 가중치 공간(weight spaces)을 분석하고 처리하는 머신러닝 방법론 개발에 상당한 관심이 집중되고 있습니다. 그러나 이러한 고차원 가중치 공간을 효율적으로 다루는 것은 여전히 어려운 과제로 남아 있습니다. 기존 방법들은 신경망 추론(inference) 과정에서 발생하는 레이어별(layer-by-layer) 순차적 특성을 간과하는 경우가 많습니다. 본 연구에서는 신경망 파라미터를 표현하기 위해 동적 그래프(dynamic graphs)를 사용하는 새로운 접근 방식을 제안하며, 이를 통해 추론의 시간적 역학(temporal dynamics)을 포착합니다. 우리가 제안하는 동적 신경 그래프 인코더(Dynamic Neural Graph Encoder, DNG-Encoder)는 이러한 그래프를 처리하여 신경 처리의 순차적 특성을 보존합니다. 또한, 우리는 DNG-Encoder를 활용하여 암시적 신경 표현(Implicit Neural Representations, INRs)의 분류와 같은 다운스트림 애플리케이션을 용이하게 하기 위한 INR2JLS(Implicit Neural Representation to Joint Latent Space)를 개발했습니다. 우리의 접근 방식은 여러 작업에서 상당한 개선을 보여주었으며, CIFAR-100-INR 데이터셋에서 기존의 최첨단(state-of-the-art) INR 분류 정확도를 약 10% 상회하는 성능을 기록했습니다.