COMPUTE

Google Uses AI Reinforcement Learning For Quantum Error Correction

Nvidia 과학자들과 다양한 학술, 과학 및 양자 컴퓨팅 기관의 동료들은 작년 말, AI와 양자 컴퓨팅이 지속적으로 융합하고 있으며, 각각이 서로의 발전에 점점 더 중요한 역할을 할 것이라는 연구 논문을 발표했습니다.

연구진은 Nature Communications에 게재된 논문에서 “양자 컴퓨팅을 위한 혁신적인 도구로서 AI를 탐색하도록 동기를 부여하는 충분한 직관이 있습니다”라고 작성했습니다. “양자 역학 시스템의 본질적인 비선형 복잡성은 기존 및 신흥 AI 기술의 고차원 패턴 인식 능력과 내재적 확장성에 매우 적합합니다.”

이러한 AI-양자 파트너십은 양자 컴퓨팅이 성숙해짐에 따라 표준 운영 환경이 될 대규모 클래식-양자 하이브리드 데이터센터의 중심 부분입니다. 이는 클래식 AI가 데이터 정리, 인코딩 및 최적화를 처리하는 동안 양자 시스템이 계산을 수행하는 등 수많은 방식으로 나타납니다.

핵심 영역 중 하나는 양자 컴퓨팅의 오류 수정(error correction) 문제 해결에 AI를 사용하는 것입니다. 큐비트(Qubits)는 본질적으로 불안정하여 주변 환경 요인, 즉 노이즈와 온도부터 빛과 다른 큐비트의 활동까지 인해 사실상 분해되거나 결맞음 깨짐(decohere) 현상을 겪을 수 있습니다. 이는 오류를 초래할 수 있으며, 오류가 발생하기 쉬운 양자 시스템은 실용적이거나 유용하지 않습니다.

AI For QEC

양자 시스템의 오류 보정(error correction)에 인공지능(AI) — 생성형(generative) 및 에이전트형(agentic) 모두 — 이 어떻게 도움을 줄 수 있는지 알아보기 위해 많은 연구가 진행되고 있습니다. 예를 들어, 펜실베이니아 대학교와 중국 베이징 대학의 Hao Tang 과학자들이 작년 초 연구 논문에서 이 문제를 다루었습니다. Nvidia는 지난 4월, 오픈 소스 AI 모델군인 Ising을 출시했는데, 이 공급업체에 따르면 Ising은 양자 오류 보정(quantum error correction) 디코딩 과정에서 최대 2.5배 빠른 성능과 3배 높은 정확도를 제공할 수 있습니다. Nvidia 공동 창립자이자 최고 경영 책임자(CEO)인 Jensen Huang은 “Ising을 통해 AI가 제어 평면(control plane), 즉 양자 기계의 운영 체제(operating system)가 되어 취약한 큐비트(qubits)를 확장 가능하고 신뢰할 수 있는 양자-GPU 시스템으로 변모시킬 것”이라고 말했습니다.

같은 달, Amazon Web Services, Quantum Elements, 남부 캘리포니아 대학교, 하버드 대학교의 연구원들은 AI 디지털 트윈 기술과 클라우드 기반 HPC(고성능 컴퓨팅) 시스템을 사용하여 시뮬레이션 모델을 생성하고 실행함으로써 양자 오류 보정 연구를 진전시킨 것에 대해 글을 작성했습니다.

또 다른 논문에서, IBM 연구원들은 6월에 오류 보정 문제를 해결하는 데 사용되는 수천 가지 코드 변형들을 분류할 수 있는 대규모 언어 모델(LLM) 기반 프레임워크를 개괄했습니다. 그들은 “이는 양자 컴퓨팅과 클래식 AI 사이의 상호 작용이 커지고 있다는 한 예시이며, 각 분야가 서로에게 정보를 제공하고 가속화하기 시작하고 있다”고 썼습니다.

이번 달에는 Google Quantum AI의 연구 과학자인 Volodymyr Sivak이 이끄는 연구 그룹이 AI의 특징 중 하나인 경험으로부터 학습하는 능력을 사용하여 양자 시스템이 오류가 감지될 때 보정을 위해 계산을 중단할 필요 없이 더 오랜 기간 — 며칠, 몇 주 또는 심지어 몇 달 동안 — 실행되도록 할 수 있다고 말했습니다.

연구진이 Nature에 발표한 논문에서 상세히 설명한 강화학습(RL) 방법은 양자 컴퓨터가 오류를 모니터링하면서 이미 수집하는 인코딩된 정보를 활용하여, 이 정보를 AI 시스템으로 통과시킵니다. 이 시스템은 발견한 내용을 바탕으로 오류로부터 학습하고 양자 시스템의 제어 설정 및 작동 매개변수에 조정(adjustments)을 가할 수 있습니다.

내결함성 양자 오류 수정(Fault-tolerant quantum error correction)은 오류가 감지 가능한 서명(detectable signatures)을 남기는 것에 의존하며, 이는 회로의 특정 영역에서 오류가 발생했음을 알리는 신호입니다. 디코더(decoder)는 이러한 탐지 이벤트를 보고 가능성이 높은 오류 패턴을 파악할 수 있습니다. 디코더가 논리적 상태를 수정한 후, 남아있는 오류는 논리 오류율(LER, logical error rate)을 사용하여 정량화되는데, 연구진은 이것이 양자 오류율 프로세스의 품질을 측정하는 주요 방법이라고 말했습니다.

연구진은 강화학습이 로봇공학부터 LLM의 행동 개선에 이르기까지 다른 복잡한 컴퓨팅 분야에서 성공적으로 사용되어 왔다고 언급했습니다.

양자 컴퓨터를 계속 가동하기 위해

여기서 이 방법은 오류와 관련하여 양자 컴퓨터가 직면하는 과제를 다룹니다. 오류가 감지되면, 시스템은 주기적으로 멈추고 재보정(recalibrated)되어야 하며, 이는 실행 중이던 계산을 중단시켜 업계가 실용적인 상업용 및 내결함성 양자 컴퓨터 시대로 진입함에 따라 수행해야 할 복잡하고 장기적인 작업을 수행하는 능력을 저해할 수 있습니다.

강화학습은 본질적으로 양자 컴퓨터가 계산을 계속 실행하면서 오류를 제자리에서 수정하는 데 필요한 조정을 스스로 하도록 합니다.

연구진은 초거대 기술 기업이 2024년 12월에 오류 수정 분야의 돌파구를 자랑하며 소개한 Google의 Willow 초전도 양자 칩(아래)을 위한 프레임워크를 만들었습니다.

그들은 시스템의 물리적 특성(예: 큐비트 전이 주파수 또는 게이트 공명 매개변수)이 시간이 지남에 따라 점진적으로 변하는 하드웨어 드리프트(hardware drift)를 소개하고, AI 학습 알고리즘을 사용하여 오류 데이터를 지속적으로 흡수하고 이를 기반으로 조정했습니다.

연구원들은 이 기술을 사용했을 때 논리적 오류율(logical error rates)이 기존의 재보정 방식과 비교하여 3.5배 더 안정화되었고 약 20% 감소했다는 것을 발견했습니다. 동시에, 강화학습(RL)이 진행되는 동안에도 시스템 성능은 꾸준히 유지되었습니다.

연구원들은 “에이전트가 무작위 초기 제어 매개변수에서 시작하더라도 높은 성능에 도달할 수 있다는 것은 전통적인 보정 스택의 요소를 증강하거나 대체할 잠재력을 시사한다”고 작성했습니다.

해당 그룹은 여러 표면 및 색상 오류 수정 코드(surface and color error-correcting codes)를 사용하여 프레임워크를 테스트했으며, 에이전트 기반 프레임워크는 1,000개 이상의 제어 매개변수를 관리할 수 있었습니다. 수치 시뮬레이션에서 연구원들은 이 프레임워크가 최대 40,000개의 제어 매개변수까지 관리할 수 있다는 것을 발견했습니다.

앞으로 강화학습(RL) 프레임워크는 향상될 수 있어 “미래에는 우리의 학습 프레임워크가 충분히 개선된다면, 양자 프로세서가 전통적인 보정 패러다임이나 인간 전문가에 의존하지 않고 RL만으로 QEC [양자 오류 수정]를 위해 처음부터(ab initio) 보정될 수 있을 것으로 예상된다”고 연구원들은 작성했습니다. “양자 컴퓨터가 자신의 오류로부터 학습하도록 힘을 실어줌으로써, 우리는 중단적인 보정 루틴을 끊김 없는 컴퓨팅으로 대체하여 실시간으로 성능을 최적화하는 확장 가능한 경로를 열었습니다. 우리의 작업은 내결함성(fault tolerance)으로 가는 길이 더 나은 하드웨어뿐만 아니라 더 지능적인 제어에 기반할 것임을 시사합니다.”