벡터화(Vectorization)와 캐싱(Caching)을 통한 NeurASP 가속화

뉴로심볼릭 AI (Neurosymbolic AI)는 신경망 (Neural Networks)과 심볼릭 프로그램 (Symbolic Programs)을 결합하여 견고하고 설명 가능한 예측을 생성합니다. 이러한 프레임워크 중 하나인 NeurASP는 신경망이 개념을 예측하도록 학습시키며, 답변 집합 프로그래밍 (Answer Set Programming, ASP)으로 작성된 규칙을 사용하여 하위 작업 (Downstream Tasks)을 해결하기 위한 개념과 그에 대한 근거를 예측합니다. 결정적으로, 레이블 (Labels)은 잠재적 개념 (Latent Concepts) 자체가 아니라 심볼릭 규칙에 의해 생성된 하위 예측에 대해서만 제공됩니다. 미분 불가능한 (Non-differentiable) ASP 구성 요소를 통한 역전파 (Backpropagation)는 비용이 많이 드는 확률 및 그래디언트 (Gradient) 계산을 요구하며, 이는 더 정교한 작업으로의 확장성 (Scalability)을 저해해 왔습니다.

본 논문에서 우리는 학습 중 중간 계산 과정의 벡터화 (Vectorization), 배치 처리 (Batch Processing) 및 캐싱 (Caching)을 통해 계산 성능을 개선함으로써 NeurASP의 현재 한계점을 해결합니다. 우리는 기존 NeurASP와 우리의 새로운 구현 방식 간의 계산 속도를 비교하며, 더 큰 작업에 대해 수 차례의 오더 (Orders of magnitude)에 달하는 속도 향상을 보고합니다. 이를 위해 우리는 트럼프 카드 놀이를 포함하는 어려운 작업들로 구성된 새로운 데이터셋을 제안하며, 이를 통해 NeurASP의 강화된 학습 기능의 역량을 테스트합니다.