양자화 시뮬레이션 쓰기백 및 해석 가능한 프로그램 실행을 위한 심볼릭 신경 CPU
요약
본 논문은 학습된 실행기의 신뢰성을 높이기 위해 트레이스 기반 심볼릭 신경 CPU(trace-supervised symbolic neural CPU)를 제안합니다. 이 아키텍처는 재귀적 제어, 명시적인 연산 라우터, 목적지 마스크 레지스터 쓰기백 등을 결합하여 상태 전이를 가시화하고 정확한 실행을 목표로 합니다.
핵심 포인트
- 트레이스 기반 심볼릭 신경 CPU를 소개함.
- 상태 전이(state transitions)를 명시적으로 가시화하는 것이 핵심임.
- 16비트 비양자화 환경에서 참조 실행을 정확히 재현함.
- 8비트 양자화 시뮬레이션에서도 심볼릭 연산 경로를 보존함.
신경망은 알고리즘적 입력-출력 매핑을 학습할 수 있지만, 학습된 실행기를 신뢰하는 것은 정확한 최종 답변 이상의 것을 요구합니다. 왜냐하면 그것을 생성하는 상태 전이(state transitions)가 보통 숨겨져 있기 때문입니다. 이러한 전이를 가시화하기 위해, 우리는 재귀적 제어(recurrent control), 고정된 미분 가능 산술-논리 장치(differentiable arithmetic-logic unit) 뱅크에 대한 명시적인 연산 라우터(operation router), 목적지 마스크 레지스터 쓰기백(destination-masked register writeback), 완전한 궤적 감독(complete trajectory supervision), 그리고 일치하는 고정 소수점 리플레이(matched fixed-point replay)를 결합한 요소화된 학습 실행 아키텍처인 트레이스 기반 심볼릭 신경 CPU(trace-supervised symbolic neural CPU)를 소개합니다. 이 모델은 매 단계마다 선택된 연산, 소스 및 목적지 레지스터, 레지스터 궤적, 메모리 신호, 그리고 쓰기백 의미론을 노출합니다. 주요 16비트 벤치마크에서 비양자화(non-quantized) 실행기는 참조 실행을 정확하게 재현하며, 8비트 양자화 시뮬레이션 실행기는 1,000개 명령어의 프로그램에 걸쳐 심볼릭 연산 경로를 보존합니다. 그러나
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.AR의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기