MDTransformer: 역설계된 코히어런트 크로스바를 이용한 모드 분할 광학 트랜스포머 가속기의 하드웨어-소프트웨어 공동 설계
요약
MDTransformer는 모드 분할 광학 기술을 활용하여 트랜스포머 추론을 가속화하는 새로운 하드웨어-소프트웨어 공동 설계 방식입니다. 역설계된 광학 텐서 코어를 통해 기존 광학 가속기 대비 면적, 전력 및 에너지 효율을 획기적으로 개선했습니다.
핵심 포인트
- 모드 분할 광학 데이터 흐름을 통한 병렬성 극대화
- 역설계된 다중 모드 결합기를 활용한 컴팩트한 텐서 코어 구현
- 기존 PTA 대비 면적 40.4%, 전력 63.6% 절감 달성
- 단일 레이저 연속파 동작으로 확장성 및 실용성 확보
최근 광학 트랜스포머 가속기 (Photonic Transformer Accelerators, PTAs)는 트랜스포머 추론 (Transformer inference)을 가속화하기 위해 전자식 가속기 (electronic accelerators) 대비 상당한 속도 향상과 에너지 효율 개선을 성공적으로 달성했습니다. 그러나 최신 기술들은 능동 위상 변조기 (active phase-shifter) 구성 요소로 인해 값비싼 다중 파장 광원 생성과 대규모 내적 (dot-product) 유닛에 의존하며, 이로 인해 접근 방식이 비효율적이고 비실용적입니다. 이를 해결하기 위해, 우리는 모드 분할 (mode-division) 광학 데이터 흐름 및 연산에 기반한 새로운 PTA 하드웨어-소프트웨어 공동 설계인 MDTransformer를 제안합니다. 구체적으로, MDTransformer는 역설계된 (inverse-designed) 다중 모드 결합기 (multi-mode couplers), 교차점 (crossings), 그리고 Mach-Zehnder IQ 변조기 (Mach-Zehnder IQ modulators)를 컴팩트한 모드 분할 광학 텐서 코어 (mode-division photonic tensor core, MPTC)로 활용하여 공간 모드 간섭 (spatial-mode interference)을 통해 복소 행렬 연산을 수행하며, 광학 영역 (optical domain)에서 행렬 곱셈을 실행할 수 있습니다. 각 가이드 모드 (예: TE0-TE3)는 독립적인 계산 레인 (computational lane)으로 작동하여, 스펙트럼 필터링 (spectral filtering)이나 자유 스펙트럼 범위 (free-spectral-range)의 제한 없이 도파로당 4배의 병렬성을 가능하게 합니다. 또한, 코히어런트 검출 (coherent detection)과 IQ 변조 (IQ modulation)가 진폭 (amplitude)과 위상 (phase)을 공동으로 인코딩하여, 트랜스포머의 전체 범위 연산을 위한 복소수 산술 (complex-valued arithmetic)을 구현합니다. MDTransformer는 4비트 미만의 유효 정밀도 (effective precision)와 -30 dB 미만의 모드 간 크로스토크 (inter-modal crosstalk)를 갖는 아날로그 곱셈을 제공합니다. 역설계된 접근 방식은 또한 1550 nm에서의 단일 레이저 연속파 (single-laser continuous-wave) 동작과 확장 가능하며 완전한 호환성을 제공합니다. 실험 결과에 따르면, MDTransformer는 다양한 워크로드 (예: DeiT-Tiny/Small/Base 및 BERT-Base/Large)에 대해 최신 PTA와 비교하여 40.4%의 면적 감소, 63.6%의 전력 절감, 40.6%의 에너지 절감 및 대등한 지연 시간 (latency)을 달성했습니다. 이러한 결과는 MDTransformer가 고성능 및 에너지 효율적인 트랜스포머 기반 시스템을 위한 실용적인 솔루션을 제공함을 보여줍니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.AR의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기