Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
본 논문은 NISQ 환경에 적합한 변분 양자 트랜스포머 아키텍처를 제안하며, 기존의 자기회귀적 토큰 인터페이스를 유지합니다. 이 모델은 어텐션 및 피드포워드 서브레이어를 양자 인코더 블록 등으로 대체하여 QNLP 시퀀스 모델링을 수행합니다. 평가 결과, 고전적 트랜스포머 기준선이 더 정확하고 안정적인 성능을 보였습니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.CL의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기우리는 합성 QNLP(Quantum Natural Language Processing) 시퀀스 모델링을 위한 작고 NISQ(Noisy Intermediate-Scale Quantum) 호환 양자 트랜스포머 아키텍처를 제안합니다. 이 모델은 고전적 트랜스포머의 자기회귀적 다음 토큰 인터페이스를 유지하지만, 어텐션 및 피드포워드 서브레이어를 변분 양자 인코더 블록(variational quantum encoder blocks), 커넥터 회로(connector circuits), 디코더 블록(decoder blocks) 및 직접적인 2-큐비트 측정 판독(two-qubit measurement readout)으로 대체합니다. 토큰 컨텍스트는 작은 양자 레지스터에 각도 인코딩되어 병렬 변분 헤드와 인코더 통합 회로를 통해 처리되고, 디코더 앙실라(decoder ancillae)를 거쳐 조건화되어 네 개의 토큰 어휘집에 대한 분포를 생성합니다. 우리는 결정론적 및 사전식 문법 생성 작업에서 여러 아키텍처 변형을 작고 고전적인 트랜스포머 기준선과 비교하여 평가합니다. 양자 모델은 종단 간(end-to-end) 학습이 가능하며, 개별 실행에서 완벽한 결정론적 생성과 가장 강력한 변형에서 높은 사전식 유효성을 포함하는 비자명한 문법 구조를 학습합니다. 고전적 기준선이 더 정확하고 안정적인 상태를 유지했으며, 양자 모델은 초기화에 민감하다는 것을 확인했습니다. 따라서 이 기여는 양자 우위(quantum advantage)의 주장이 아니라, 근접 미래 양자 제약 조건 하에서 트랜스포머 영감을 받은 QNLP 시퀀스 모델링의 구체적인 아키텍처와 평가입니다.