토폴로지 및 하이퍼파라미터의 이중 레벨 최적화 (BOTH)

토폴로지 최적화(TO)는 설계 프로세스를 자동화하는 중요한 단계입니다. 즉, 작동하는 시뮬레이션만 주어지면 TO는 시뮬레이션을 미분하고 설계를 반복적으로 개선함으로써 버튼 하나만으로 실현 가능한 프로토타입을 생성할 수 있습니다. 그러나 실제로는 TO가 '마법의 숫자(magic numbers)'로 가득 차 있는데, 이는 하이퍼파라미터이며 이들의 튜닝이 결과에 큰 영향을 미칩니다. 적절한 값을 찾는 것은 일반적으로 깊은 문제별 지식뿐만 아니라 광범위한 시행착오를 필요로 합니다. 실무자들은 대안으로 서로게이트(surrogate)-지원 하이퍼파라미터 최적화를 사용할 수 있지만, 이 접근 방식은 신중한 문제 공식화를 통해 하이퍼파라미터의 수를 엄격하게 제한해야 합니다. 여기서는 자동 미분(automatic differentiation)을 사용하여 TO 자체를 미분하는 방법을 제안합니다. 이를 통해 '하이퍼그래디언트(hypergradients)'가 생성되어, 이 하이퍼파라미터를 주 최적화와 동시에 튜닝할 수 있게 됩니다. 우리는 TO의 단 한두 단계만 평가해도 충분히 유익하며, 이 방법이 몇 번의 표준 TO 실행과 비슷한 비용으로 수천 개의 하이퍼파라미터까지 유리하게 확장됨을 보여줍니다. 우리는 응력 제약(stress-constrained) 및 컴플라이언스 문제에 이 접근 방식을 시연했으며, 후자는 밀도 필드의 신경 매개변수화(neural parameterization)를 활용했습니다.