경사 하강법을 넘어: 아날로그 Ising 머신을 위한 Adam

무어의 법칙 (Moore's law)이 한계에 다다름에 따라, Ising 머신 (Ising machines)은 어려운 최적화 문제에 대한 유망한 대안적 컴퓨팅 접근 방식을 제공합니다. 그러나 많은 아날로그, 시간 연속형 (time-continuous) Ising 머신은 솔루션을 찾기 위해 경사 하강법 (gradient-descent)과 유사한 역학에 의존하며, 이는 속도와 견고성 (robustness)을 제한할 수 있습니다. 우리는 모멘텀 (momentum)과 Adam 최적화가 이러한 시스템을 개선할 수 있는지 조사합니다. 이러한 옵티마이저 (optimizers)들은 전통적으로 이산 시간 (discrete time) 방식으로 공식화되어 있기 때문에, 우리는 아날로그, 시간 연속형 Ising 머신 역학에 적합한 연속 시간 (continuous-time) 버전을 유도합니다. Max-Cut 벤치마크에서, 우리는 Adam 기반 역학이 경사 하강법 및 모멘텀 기반 역학에 비해 목표 도달 시간 (time-to-target)을 실질적으로 단축하고 솔루션 품질을 향상시킨다는 것을 발견했습니다. 나아가 우리는 향후 물리적 구현을 위한 더 간단한 시작점으로 의도된 Adam의 1차 연속 시간 근사치 (first-order continuous-time approximation)를 소개하며, 이는 연속 시간 설정에서 전체 Adam 공식보다 더 나은 성능을 발휘합니다. 우리는 또한 순수하게 알고리즘적인 이산 시간 설정을 연구하였는데, 여기서 성능 격차는 더 쉬운 문제 인스턴스에서는 줄어드는 반면, Adam 기반 업데이트 규칙은 더 어려운 가중치 문제 (weighted problem) 인스턴스에서 가장 좋은 성능을 보입니다. 이러한 결과는 연속 시간 Adam 역학이 아날로그 Ising 머신을 위한 강력한 설계 원칙임을 확인시켜 줍니다.