Transformer를 통한 Lagrangian 입자 역학의 통합 시뮬레이션

솔버(solver)별 재설계 없이 다양한 물리 현상을 모델링할 수 있는 통합 시뮬레이터는 시뮬레이션 과학 분야의 오랜 목표입니다. 본 논문에서는 천(cloth), 탄성 고체(elastic solids), 뉴턴 및 비뉴턴 유체(Newtonian and non-Newtonian fluids), 입자상 물질(granular materials), 그리고 분자 역학(molecular dynamics)을 모델링하기 위해 단일 Transformer 아키텍처를 기반으로 구축된 학습 기반 입자 시뮬레이터를 제시합니다. 우리의 모델은 공유된 Lagrangian 입자 표현(representation) 상에서 예측-수정(prediction-correction) 설계를 따릅니다. 명시적 예측기(explicit predictor)는 먼저 알려진 외력 하에서 입자를 전진시켜, 외부에서 유도된 움직임은 포착하지만 입자 간 상호작용은 포착하지 않는 중간 상태를 생성합니다. 이후 학습된 수정기(learned corrector)가 다음의 세 단계를 통해 잔차 위치 및 속도 업데이트를 예측합니다: 국부적인 입자-입자(particle-particle), 입자-경계(particle-boundary) 및 위상 유도(topology-guided) 상호작용을 인코딩하는 입자 토크나이저(particle tokenizer); 교차 자기 주의 집중(alternating self-attention)과 토큰 병합(token merging)을 통해 입자 토큰을 압축된 슈퍼 토큰(super tokens) 세트로 계층적으로 병합하는 슈퍼 토큰 인코더(super-token encoder); 그리고 교차 주의 집중(cross-attention)을 통해 이러한 슈퍼 토큰을 다시 입자 해상도로 끌어올려 입자별 위치 및 속도 수정을 예측하는 슈퍼 토큰 디코더(super-token decoder)입니다. 점진적 토큰 병합(Progressive token merging)은 각 단계에서 토큰 수를 절반으로 줄임으로써 연속적인 인코더 레이어에서의 주의 집중 비용(attention cost)을 감소시키며, 디코더는 전체 입자 간 주의 집중(full particle-to-particle attention) 대신 압축된 슈퍼 토큰 세트를 통해 통신합니다. 6가지 역학 범주 전반에 걸쳐, 동일한 아키텍처는 학습되지 않은 재료, 경계 구성, 초기 조건 및 외력으로 일반화됩니다. 나아가 우리는 다운스트림 상호작용 제어(interactive control), 역설계(inverse design), 그리고 실제 조작 데이터로부터의 학습을 입증함으로써, 현상별 솔버 엔지니어링의 필요성을 줄임을 보여줍니다.