서론

양자 컴퓨터는 차세대 계산 기반으로서 주목받고 있지만, 실용화를 향한 두 가지 큰 장벽이 있습니다. 캘리브레이션 (Calibration) (양자 프로세서의 정밀한 조정)과 에러 정정 (Error Correction) (양자 비트의 노이즈 제거)입니다.

2026년 4월 15일, NVIDIA는 이 두 가지 과제를 AI로 해결하는 세계 최초의 오픈 AI 모델 패밀리인 NVIDIA Ising을 공개했습니다. 코드는 Apache 2.0 라이선스로 GitHub, HuggingFace, build.nvidia.com에서 즉시 이용할 수 있습니다.

본 기사에서는 Ising의 기술적인 메커니즘, 벤치마크 결과, 설정 방법을 해설합니다.

이 기사에서 배울 수 있는 것

• NVIDIA Ising이 해결하는 양자 컴퓨팅의 2대 과제
• Ising Calibration (VLM)과 Ising Decoding (3D CNN)의 설계와 성능
• GitHub 리포지토리 및 NVIDIA NIM을 통한 도입 절차
• CUDA-Q 통합과 배포 환경의 전체상

대상 독자

• 양자 컴퓨팅의 동향을 쫓는 엔지니어
• NVIDIA GPU를 사용한 AI/ML 개발자
• 오픈 소스 AI 모델을 시도해보고 싶은 분 (양자 지식 불필요)

TL;DR

NVIDIA Ising이란: 양자 프로세서의 캘리브레이션과 에러 정정을 자동화하는 AI 모델 패밀리 -
2개 모델: Ising Calibration (35B 파라미터 VLM) + Ising Decoding (3D CNN, 912K~1.79M 파라미터) -
성능: QCalEval에서 Gemini 3.1 Pro를 3.27% 상회하며, PyMatching보다 최대 2.5배 빠르고 1.53배 높은 정확도 -
라이선스: 코드는 Apache 2.0 / 모델 웨이트는 NVIDIA Open Model License -
입수처: GitHub, HuggingFace, NVIDIA NIM

배경: 양자 컴퓨터가 안고 있는 두 가지 장벽

장벽 1: 캘리브레이션 (Calibration)

양자 프로세서는 온도, 전자기 노이즈, 소자의 개체 차이로 인해 항상 특성이 변화합니다. 안정적인 동작을 위해 정기적인 캘리브레이션 (특성 측정 및 조정)이 필요하지만, 기존에는 며칠이 걸리는 수작업이었습니다.

장벽 2: 양자 에러 정정 (QEC: Quantum Error Correction)

양자 비트 (qubit)는 노이즈에 매우 취약하여 계산 중에 오류가 발생합니다. 표면 코드 (Surface Code) 등의 QEC 알고리즘으로 오류를 검출 및 정정하지만, 실시간 디코딩에는 고속 계산이 필수적입니다.

NVIDIA는 이 두 가지 과제에 대해 LLM, VLM, CNN 등의 AI 기술을 결합한 솔루션으로서 Ising을 설계했습니다.

NVIDIA Ising의 구성

Ising 패밀리는 두 개의 독립된 모델로 구성되어 있습니다.

Ising Calibration: 양자 프로세서 조정을 며칠에서 몇 시간으로

개요

Ising Calibration은 35B 파라미터의 비전 언어 모델 (VLM)로, 양자 프로세서로부터 얻은 측정 결과를 해석하고 캘리브레이션 절차를 자율적으로 추천 및 실행하는 에이전트형 워크플로우를 제공합니다.

베이스 모델로는 Qwen3.5-35B-A3B (MoE 아키텍처)를 채택하고 있으며, 토큰당 액티브한 파라미터는 약 3B로 억제되어 있습니다.

주요 특징

실험 출력 해석: 양자 실험의 그래프 및 수치 데이터를 시각적으로 읽어내어 다음 액션을 판단 -
에이전트 자율 실행: Quantum Calibration Agent Blueprint를 통해 캘리브레이션 절차를 자동화 -
대폭적인 시간 단축: 기존에 며칠씩 걸리던 워크플로우를 몇 시간으로 압축

QCalEval 벤치마크 결과

NVIDIA가 공개한 QCalEval (양자 캘리브레이션 평가 데이터셋)에서의 비교 결과입니다 [1]:

Ising Decoding: 실시간 QEC를 2.5배 가속화

개요

양자 오류 정정 (Quantum Error Correction, QEC)에서는 양자 비트의 측정값(detector syndrome)을 시공간적으로 분석하여 오류를 예측하는 디코더 (Decoder)가 필요합니다. Ising Decoding은 이 디코딩을 GPU에서 가속화하는 3D 합성곱 신경망 (3D CNN) 모델입니다.

3D CNN은 공간 방향 (양자 비트 격자)과 시간 방향 (측정 라운드)을 동시에 다룰 수 있기 때문에 표면 부호 (Surface Code) 디코딩에 적합합니다.

두 가지 변체 (Variants)

Fast (속도 우선):

• 파라미터 수: 약 912,000
• 수용 영역 (Receptive Field): 9×9×9
• 학습 입력 크기: 9×9×9

Accurate (정밀도 우선):

• 파라미터 수: 약 1,790,000
• 수용 영역 (Receptive Field): 13×13×13
• 학습 입력 크기: 13×13×13

PyMatching과의 성능 비교

부호 거리 d=13, 물리적 오류율 p=0.003에서의 측정 결과 [2]:

FP8 정밀도 및 GB300 GPU × 13대 구성으로 배포할 경우 **라운드당 0.11 마이크로초 (µs)**의 처리량 (Throughput)을 달생합니다.

보충: PyMatching은 양자 오류 정정의 표준 베이스라인 디코더입니다. Ising은 이를 상회하는 속도와 정밀도를 모두 달성했습니다.

설정 및 사용 방법

방법 1: GitHub에서 직접 가져오기

# Ising Decoding 리포지토리 클론 (Apache 2.0)
git clone https://github.com/NVIDIA/Ising-Decoding
cd Ising-Decoding
...

Ising Decoding에는 학습 프레임워크, cuStabilizer 통합, 합성 훈련 데이터 생성 도구가 포함되어 있습니다.

방법 2: HuggingFace에서 사전 학습된 모델 가져오기

from huggingface_hub import snapshot_download
# Ising Decoding의 사전 학습된 모델 다운로드
snapshot_download(repo_id="nvidia/ising-decoder-surfacecode-1-fast")

HuggingFace에는 모델 가중치 (Weights)와 QCalEval 데이터셋이 공개되어 있습니다.

라이선스 주의: Ising Calibration의 모델 가중치 (Ising-Calibration-1-35B-A3B)에는 NVIDIA Open Model License가 적용됩니다. 상업적 이용 전에 라이선스 조항을 확인하십시오.

방법 3: NVIDIA NIM 컨테이너로 배포

# NVIDIA NIM 컨테이너 실행 (Calibration 모델 예시)
docker run --gpus all \
-e NGC_API_KEY=${NGC_API_KEY} \
...

NIM은 모델의 컨테이너화된 배포를 제공하며, TensorRT를 통한 추론 최적화가 내장되어 있습니다.

방법 4: NVIDIA Build Platform에서 시도하기

코드를 작성하지 않고 브라우저에서 모델을 테스트하려면 다음 URL에 접속하십시오:

CUDA-Q 통합 및 배포 스택

Ising은 여러 라이브러리와 밀접하게 통합되어 있으며, 양자-고전 하이브리드 환경에서 작동합니다.

┌─────────────────────────────────┐
│ 양자 프로세서 │
│ (초전도 양자 비트 / 이온 트랩) │
...

주요 구성 요소

파인튜닝 (Fine-tuning) 및 커스터마이징

Ising은 오픈 소스이므로, 자사의 양자 프로세서 특성에 맞춘 커스터마이징이 가능합니다.

Ising Decoding의 파인튜닝 (Fine-tuning)

# cuQuantum으로 합성 훈련 데이터를 생성
import cuquantum
# (양자 회로 시뮬레이션으로 독자적인 신드롬 (syndrome) 데이터셋을 생성)
...

Ising Calibration의 커스터마이징

LoRA (Low-Rank Adaptation) 또는 SFT (Supervised Fine-Tuning)를 사용하여 특정 양자 프로세서 아키텍처에 최적화할 수 있습니다. 양자화 (FP8)를 통한 배포 비용 절감도 공식 지원됩니다.

기업 및 연구 기관 도입 사례

IQM

핀란드의 양자 컴퓨터 제조사 IQM은 NVIDIA Ising을 활용하여 양자 프로세서의 자동 캘리브레이션 (Calibration) 파이프라인을 구축했습니다. 이를 통해 수동 캘리브레이션의 병목 현상을 해소하고 있습니다.

EeroQ

양자 프로세서를 개발하는 EeroQ는 NVIDIA와의 공동 연구를 통해 Ising 모델을 양자 실험 가속화에 활용하고 있습니다.

자주 묻는 질문 (FAQ)

Q: 양자 컴퓨터가 없어도 사용할 수 있나요?

A: 사용할 수 있습니다. Ising은 소프트웨어 시뮬레이션 환경 (cuQuantum)에서도 동작합니다. 양자 프로세서 없이도 합성 데이터로 시험 및 평가가 가능합니다.

Q: 어떤 GPU가 필요한가요?

NVIDIA NIM 컨테이너는 Ampere 아키텍처 이후 (A100, H100 등)를 권장합니다. Ising Decoding과 같은 경량 모델 (912K~1.79M 파라미터)은 소비자용 GPU에서도 동작하지만, FP8 추론을 위해서는 Hopper 세대 (H100)가 필요합니다.

Q: PyMatching과의 차이점은 무엇인가요?

Ising Decoding은 엔드 투 엔드 (End-to-End) 뉴럴 네트워크 디코더입니다. PyMatching은 글로벌 디코더로서 계속 사용될 수 있으며, Ising Decoding과의 하이브리드 구성도 가능합니다.

요약

NVIDIA Ising은 양자 컴퓨팅의 실용화를 가로막는 두 가지 장벽(캘리브레이션, 오류 정정)을 AI로 해결하는 오픈 모델 패밀리입니다.

양자 컴퓨팅은 전문성이 매우 높은 분야이지만, Ising의 오픈 릴리스를 통해 AI/ML 개발자들이 양자×AI 영역에 더 쉽게 진입할 수 있게 되었습니다. NVIDIA Build Platform을 통해 간편하게 시도해 볼 수 있으므로, 우선 브라우저를 통해 접해보는 것을 추천합니다.

참고 링크

• NVIDIA Ising 공식 페이지
• NVIDIA Technical Blog: Ising 상세 해설
• GitHub: NVIDIA/ising
• GitHub: NVIDIA/Ising-Decoding
• NVIDIA Build Platform
• NVIDIA 보도 자료

출처:
NVIDIA Technical Blog "NVIDIA Ising Introduces AI-Powered Workflows to Build Fault-Tolerant Quantum Systems" (2026-04-15) https://developer.nvidia.com/blog/nvidia-ising-introduces-ai-powered-workflows-to-build-fault-tolerant-quantum-systems/ ↩︎

출처: 위와 동일. 측정 조건: 부호 거리(d)=13, 물리 오류율(p)=0.003. ↩︎

논의 (Discussion)