새로운 연구 프레임워크가 양자 상태의 기하학적 구조를 사용하여 양자 머신러닝 (Quantum Machine Learning) 모델이 새로운 작업을 학습하는 동시에 이전에 습득한 지식을 유지할 수 있도록 돕습니다. 이러한 발전은 양자 인공지능 (Quantum Artificial Intelligence) 시스템 개발의 중대한 장애물인 치명적 망각 (Catastrophic Forgetting) 문제를 직접적으로 해결합니다.

프리프린트 서버인 arXiv에 게시된 이 연구는 양자 탄성 가중치 통합 (Quantum Elastic Weight Consolidation, QEWC)을 소개합니다. 이 방법은 기존의 측정 기반 접근 방식을 양자 역학에 본질적으로 뿌리를 둔 방식으로 대체합니다. 연구진은 QEWC가 AI 모델이 새로운 정보를 학습할 때 이전에 숙달한 작업을 수행하는 능력이 감소하는 현상인 치명적 망각 (Catastrophic Forgetting)을 완화한다고 밝히고 있습니다.

이 연구는 특히 잡음이 있는 중간 규모 양자 (Noisy Intermediate-Scale Quantum, NISQ) 하드웨어를 위해 설계된 양자 머신러닝 모델의 한 종류인 변분 양자 분류기 (Variational Quantum Classifiers)를 대상으로 합니다. 연구진은 훈련 중에 양자 모델의 일부를 안정화하기 위해 고전적인 통계적 측정치에 의존하는 대신, 양자 피셔 정보 (Quantum Fisher Information, QFI)를 사용했습니다. 이 양은 매개변수 변화에 대한 기저 양자 상태의 민감도를 측정합니다.

이 접근 방식은 새로운 작업이 도입됨에 따라 보존해야 할 정보를 보유하고 있는 양자 회로의 어느 부분이 어디인지 식별하는 데 더 자연스러운 방법을 제공합니다. 직접적인 양자 하드웨어 실험 대신 수치 시뮬레이션을 통해 테스트되었음에도 불구하고, 이 연구는 양자 지속 학습 (Quantum Continual Learning)을 위한 새로운 이론적 토대를 제공합니다. 이 연구 분야는 양자 AI 시스템이 순차적으로 학습할 수 있도록 하여, 새로운 데이터 입력이 있을 때마다 전체 재학습을 할 필요를 없애는 것을 목표로 합니다.

양자 지속 학습 (Quantum Continual Learning)

지속 학습 (Continual Learning)은 AI에서 매우 중요한 목표인데, 현실 세계의 시스템은 모든 관련 데이터를 한 번에 받는 경우가 드물기 때문입니다. 대신, 이러한 시스템은 기존 지식을 유지하면서 새로운 정보에 지속적으로 적응해야 합니다. 인간은 이 과정을 노력 없이 수행하지만, 인공 신경망 (Artificial Neural Networks)은 종종 어려움을 겪습니다.

전통적인 AI 시스템이 새로운 작업을 학습할 때, 성능을 최적화하기 위해 수행되는 조정 과정은 이전 지식을 저장하고 있는 파라미터 (Parameters)를 의도치 않게 덮어쓸 수 있습니다. 연구자들은 이를 파괴적 망각 (Catastrophic Forgetting)이라고 부릅니다. 동일한 문제가 양자 기계 학습 (Quantum Machine Learning)에도 영향을 미칩니다. 많은 양자 학습 알고리즘은 양자 신경망 (Quantum Neural Networks)이라고도 불리는 매개변수화된 양자 회로 (Parameterized Quantum Circuits)를 활용하며, 여기서 조정 가능한 게이트 파라미터 (Gate Parameters)가 학습 과정 동안 최적화됩니다. 이러한 파라미터들이 새로운 문제를 해결하기 위해 변경됨에 따라, 이전 작업에 대한 성능이 크게 저하될 수 있습니다.

이러한 과제는 양자 기계 학습 시스템이 연속적인 데이터 스트림을 포함하는 지속적인 과학적 또는 산업적 문제에 적용됨에 따라 특히 중요해집니다. 이전 연구에서는 탄성 가중치 통합 (Elastic Weight Consolidation, EWC)이라는 고전적 기계 학습 기술을 양자 모델에 맞게 조정했습니다. 해당 방법은 측정 결과로부터 도출된 통계적 척도인 고전 피셔 정보 (Classical Fisher Information, CFI)를 사용하여, 모델이 학습 중에 배우는 조정 가능한 변수인 가장 중요한 파라미터들을 추정합니다.

연구자들은 이러한 고전적 접근 방식이 양자 시스템에 완전히 적합하지는 않다고 주장합니다. CFI는 양자 상태가 어떻게 측정되는지에 따라 달라지며, 이는 서로 다른 측정 방식이 동일한 파라미터에 대해 서로 다른 중요도를 부여할 수 있음을 의미합니다. 연구팀은 최종적으로 어떻게 측정되는지와 관계없이, 회로 파라미터의 미세한 변화에 따라 양자 상태 자체가 어떻게 변하는지를 특징짓는 양자 피셔 정보 (Quantum Fisher Information, QFI)를 사용하는 대안을 제안합니다.

연구에 따르면, 이는 지속적 학습 (Continual Learning)에 대한 정보 기하학적 (Information-geometric) 관점을 제공합니다. 이 관점에서 지식 보존은 특정 측정 전략보다는 양자 상태의 구조와 직접적으로 연결됩니다.

양자 상태의 기하학 (Geometry of Quantum States)

QEWC의 핵심 원리는 양자 회로(quantum circuit) 내의 모든 파라미터가 이전에 학습된 지식을 유지하는 데 동일하게 기여하지 않는다는 점입니다. 이 프레임워크는 모든 파라미터를 균일하게 취급하는 대신, 조정될 때 기저의 양자 상태(quantum state)에서 가장 큰 변화를 일으키는 파라미터가 무엇인지 추정합니다. 이러한 영향력이 큰 파라미터들은 후속 학습 과정에서 더 강력한 보호를 받는 반면, 영향력이 적은 파라미터들은 새로운 태스크를 습득하기 위해 더 유연한 상태로 유지됩니다.

연구진은 이를 안정성(stability)과 가소성(plasticity) 사이의 균형을 맞추는 것에 비유합니다. 안정성은 모델이 이전 지식을 보존할 수 있게 하며, 가소성은 새로운 정보를 흡수할 수 있게 합니다. 양자 피셔 정보(Quantum Fisher Information, QFI)는 학습 가능한 파라미터 중 하나가 조정될 때 양자 상태가 변화하는 정도를 측정하며, 이를 통해 어떤 파라미터가 모델의 동작에 가장 큰 영향을 미치는지 자연스럽게 포착합니다.

본 연구는 이러한 접근 방식에 대한 수학적 근거를 제공합니다. 연구진은 높은 양자 피셔 정보(Quantum Fisher Information)와 관련된 방향으로의 움직임을 제한함으로써 양자 상태 자체의 변화를 줄일 수 있다고 설명합니다. 이는 결과적으로 이전 태스크에 대한 모델의 예측과 정확도의 변화를 제한합니다. 이 논문은 QEWC를 단순히 또 다른 정규화(regularization) 방법으로 제시하는 것이 아니라, 양자 시스템에서의 지속 학습(continual learning)에 대한 기하학적 해석으로 정의합니다.

이는 파라미터의 중요성이 단순히 측정 통계(measurement statistics)에 의해서가 아니라 양자 상태의 구조에 의해 결정된다는 점에서 기존 방식들과 개념적인 차별점을 가집니다. 이 방법은 양자 AI 시스템이 진화하는 데이터 환경을 관리할 수 있는 더욱 본질적인 방식을 약속합니다.

테스트 및 평가 (Testing and Evaluation)

연구팀은 시뮬레이션에서 수행된 일련의 순차적 이진 분류 (binary classification) 작업을 통해 QEWC를 평가했습니다. 이 작업들은 모델이 하나씩 차례대로 학습하는 연속적인 학습 연습을 포함하며, 각 작업은 데이터를 두 가지 범주 중 하나로 분류할 것을 요구합니다. 실험에는 MNIST 데이터셋의 손글씨 숫자 분류, Fashion-MNIST의 의류 이미지 분류, 그리고 두 개의 서로 다른 양자 상태 (quantum phases)에 속하는 양자 다체 상태 (quantum many-body states) 식별이 포함되었습니다. MNIST, 즉 Modified National Institute of Standards and Technology 데이터베이스는 머신러닝 (machine learning)에서 널리 사용되는 벤치마크 데이터셋입니다.

양자 모델은 30개의 반복 레이어 (layers)와 120개의 학습 가능한 파라미터 (trainable parameters)를 특징으로 하는 4-큐비트 변분 양자 분류기 (four-qubit variational quantum classifier)를 활용했습니다. 초기에는 연구진이 이전 지식을 보존하는 메커니즘 없이 모델을 순차적으로 학습시켜 베이스라인 (baseline)을 설정했습니다. 서로 밀접하게 연관된 두 가지 이미지 분류 작업을 순차적으로 학습했을 때는 두 작업 모두 유사한 내부 표현 (internal representations)을 요구했기 때문에 망각 (forgetting)이 최소화되었습니다. 하지만 두 번째 작업이 첫 번째 작업과 실질적으로 다를 때는 상황이 크게 변했습니다.

모델을 먼저 손글씨 숫자로 학습시킨 후 의류 이미지로 학습시켰을 때, 새로운 작업에 대한 정확도는 높게 유지되었음에도 불구하고 두 번째 작업이 도입된 후 원래 작업의 성능은 크게 저하되었습니다. 양자 상태 분류를 포함하는 세 번째 작업을 도입하자 망각 현상은 더욱 두드러지게 나타났습니다. 이에 연구진은 세 가지 서로 다른 접근 방식을 비교했습니다: 전통적인 순차적 학습 (conventional sequential training), 고전적 피셔 정보 (Classical Fisher Information)를 사용하는 고전적 탄성 가중치 통합 (Elastic Weight Consolidation), 그리고 새로운 양자 피셔 정보 (Quantum Fisher Information) 기반의 QEWC 프레임워크입니다.

두 가지 정규화 (Regularization) 방법 모두 정규화를 적용하지 않은 베이스라인 (Baseline)과 비교했을 때 치명적 망각 (Catastrophic Forgetting)을 유의미하게 감소시켰습니다. 연구진은 두 방법이 서로 다른 동작을 보였다고 언급했습니다. 고전적 (Classical) 접근 방식은 측정 결과에 강력하게 영향을 미치는 파라미터 (Parameters)에 보호를 집중했습니다. 반대로, QEWC는 양자 상태 기하학 (Quantum-state geometry) 전반에 걸쳐 정규화를 더 넓게 분산시켰으며, 이를 통해 이전 지식의 유지와 새로운 태스크 (Tasks) 습득 사이에서 다른 균형을 달성했습니다.

또한 이 연구는 양자 컴퓨터에 영향을 미치는 오류의 일반적인 모델인 시뮬레이션된 탈분극 노이즈 (Depolarizing noise)를 조사했습니다. 이러한 조건 하에서, 측정 통계가 악화됨에 따라 고전적 피셔 정보 (Classical Fisher Information)는 점진적으로 억제되었습니다. 그러나 양자 피셔 정보 (Quantum Fisher Information)는 노이즈가 있는 양자 상태 자체와 관련된 파라미터 민감도 (Parameter sensitivity)에 대해 더 안정적인 설명을 유지했습니다. 연구진은 이것이 하드웨어 성능의 개선을 입증한 것은 아니지만, 양자 기반 접근 방식이 하드웨어 노이즈가 증가하더라도 효과적으로 유지될 수 있음을 시사한다고 제안합니다.

향후 기회와 과제

연구진은 QEWC를 최종적이고 완전한 솔루션이 아닌, 지속 학습 (Continual learning)을 탐구하기 위한 프레임워크로 의도하고 있습니다. 한 가지 실질적인 과제는 대규모 양자 회로 (Quantum circuits)에 대한 양자 피셔 정보 (Quantum Fisher Information)를 계산하는 것입니다. 전체 양자 피셔 정보 행렬 (Quantum Fisher Information matrix)을 추정하려면 학습 가능한 모든 파라미터 쌍 사이의 상관관계 (Correlations)를 평가해야 하며, 이는 모델의 복잡성이 확장됨에 따라 계산 비용이 점점 더 비싸지는 작업입니다.

문제를 계산 가능한 수준으로 만들기 위해 연구진은 행렬의 대각 성분 (Diagonal elements)만을 사용했습니다. 이 접근 방식은 파라미터 간의 상관관계를 무시하고 각 파라미터에 독립적인 중요도 점수를 할당했습니다. 이러한 근사치 (Approximation)가 일부 기하학적 정보를 희생한다는 점을 인정하면서도, 이는 계산 비용을 실질적으로 줄여줍니다. 또한 본 연구는 여전히 고전적 시뮬레이션 (Classical simulations)에 국한되어 있습니다.

모든 실험은 물리적 양자 프로세서 (Physical quantum processors) 대신 시뮬레이션된 4-큐비트 회로 (Four-qubit circuits)를 사용하여 수행되었습니다. QEWC가 더 큰 시스템이나 실제 하드웨어 조건 하에서도 유사한 이점을 제공할 수 있는지 여부는 아직 해결되지 않은 과제로 남아 있습니다. 벤치마크 작업 또한 상대적으로 소박했으며, 주로 기존 머신러닝 (Machine learning) 데이터셋을 사용한 이진 분류 (Binary classification) 문제와 하나의 양자 상태 분류 (Quantum-state classification) 문제로 구성되었습니다.

향후 연구는 이 프레임워크를 더 큰 양자 모델, 더 복잡한 학습 작업, 그리고 실제 양자 하드웨어에서의 실험으로 확장하는 데 집중할 수 있습니다. 연구팀에는 한국과학기술원 (KAIST), 국립 성공대학교 (National Cheng Kung University), 그리고 대만의 국가 고성능 컴퓨팅 센터 (National Center for High-Performance Computing) 소속의 Yu-Chao Hsu가 포함되었습니다. 추가 기여자로는 대만 국가 고성능 컴퓨팅 센터 및 국가 응용연구소 (NIAR) 소속의 Tai-Yue Li와 Nan-Yow Chen, 그리고 대만 국립 양밍 교통대학교 (National Yang Ming Chiao Tung University) 전기물리학과 소속의 Yu-Cheng Lin과 En-Jui Kuo가 있습니다. 본 논문은 프리프린트 (Preprint)이며 공식적인 동료 검토 (Peer review)를 거치지 않았습니다.