적응형 및 비적응형 입자 군집 최적화(PSO)를 이용한 다중 컬럼 RBF 신경망

경사 하강법 (Gradient descending algorithm)으로 학습되는 방사 기저 함수 신경망 (Radial Basis Function Neural Network, RBFN)은 얕은 신경망과 깊은 신경망 모두에서 효과적인 완전 연결 구조 (Fully connected structure)를 제공합니다. 최첨단 경사 기반 학습 방법인 오차 수정 (Error Correction, ErrCor)은 정확도를 높이기 위해 최적의 은닉 유닛 (Hidden units)을 선택합니다. 대안적으로, 개체군 기반 알고리즘 (Population-based algorithm)인 입자 군집 최적화 (Particle Swarm Optimization, PSO) 알고리즘은 군집의 경험을 사용하여 RBFN 파라미터를 최적화하며, 전역 탐색 (Global search) 능력과 지역 최솟값 (Local minima)에 대한 강건성 (Robustness)을 제공합니다. 적응형 PSO (Adaptive PSO, APSO)는 PSO의 개선된 변형으로 등장했습니다. APSO 알고리즘은 최적화 과정 동안 군집 파라미터를 동적으로 조정함으로써 수렴 속도 (Convergence speed)를 향상시킵니다. ErrCor와 PSO 모두 개선된 결과와 경쟁력 있는 수렴성을 보여줍니다. 그러나 대규모 데이터셋의 경우, 이러한 방법들은 과도한 커널 계산 (Kernel computations) 및 거대한 은닉층 구조와 같은 확장성 (Scalability) 문제에 직면합니다. 최근의 다중 컬럼 RBFN 접근 방식 (Multi-column RBFN, MCRN)은 병렬 시스템에 작은 RBFN들을 배치함으로써 ErrCor의 성능을 향상시킵니다. MCRN의 성공에 영감을 받아, 본 논문에서는 PSO 성능을 향상시키기 위한 두 가지 새로운 접근 방식인 PSO를 이용한 다중 컬럼 RBFN (Multi-column RBFN with PSO, MC-PSO)과 APSO를 이용한 다중 컬럼 RBFN (Multi-column RBFN with APSO, MC-APSO)을 제안합니다. 이러한 방법들은 진화적 군집 방법 (Evolutionary swarm methods)을 사용하여 학습되는 병렬 RBFN 구조를 도입합니다. 각 RBFN은 PSO 또는 APSO 알고리즘을 사용하여 데이터셋의 특정 공간적 하위 집합 (Spatial subset)에서 독립적으로 학습됩니다. 이렇게 결과적으로 생성된 전문가 학습 RBFN (Specialist-trained RBFNs)은 각각의 하위 집합에 맞춤화됩니다. 테스트 단계에서는 테스트 인스턴스의 이웃이 위치한 선택된 RBFN들만이 다중 컬럼 출력에 기여합니다. 이러한 전문화는 정확도를 향상시키는 동시에, 병렬성은 속도를 높여줍니다. 우리는 다양한 벤치마크 데이터셋에서 제안된 방법들을 평가합니다. MC-PSO와 MC-APSO는 정확도 (Accuracy)와 재현율 (Recall) 측면에서 ErrCor, PSO, APSO, 그리고 MCRN보다 뛰어난 성능을 보입니다. 또한 대부분의 실험에서 더 빠른 학습 및 테스트 시간을 입증했습니다.