Sketchpad: 소규모 Vision-Language Model을 이용한 인증된 정확 산술 연산

원문 발행 2026. 11. 03. 16:25원문 언어 영어AI 한국어 번역arXiv cs.CL 원문 보기

요약

Sketchpad는 소규모 Vision-Language Model을 활용하여 장문 산술 연산의 정확성을 높인 시스템입니다. 이 모델은 외부 작업 메모리의 제한된 뷰만을 읽어 계산하며, 이를 통해 모든 길이의 입력에 대한 정확성이 보장됩니다. 수학적 증명과 실제 테스트를 거쳐 높은 신뢰도를 입증했습니다.

핵심 포인트

외부 작업 메모리의 유한하고 검증 가능한 뷰만 읽어 정확성을 확보합니다.
Qwen3.5-0.8B에 LoRA를 적용하여 아키텍처를 구현했습니다.
Lean을 이용해 모든 길이의 입력에서 정확성이 필요한 조건을 증명했습니다.
최대 1,000자리 합 및 20자리 곱셈 등 복잡한 연산이 가능합니다.

언어 모델(Language models)은 대부분의 장문 산술 문제(long-arithmetic problems)에서 정확하지만, 그 정확도는 샘플에 대해 추정될 뿐이며 보지 못한 입력값에 대해서는 어떠한 보장도 제공하지 않습니다. 도구 사용(tool use)은 정확하지만 계산을 네트워크 외부로 이동시킵니다. 우리는 각 단계가 외부 작업 메모리(external working memory)의 제한된 뷰만을 읽을 때, 모든 길이의 입력에서 정확성이 네트워크의 유한하고 검증 가능한 속성(finite, checkable property)이 된다는 것을 보여줍니다. Sketchpad에서는 Qwen3.5-0.8B 모델에 낮은 계수 어댑터(low-rank adapter)를 적용하여 렌더링된 시트 위에서 산술 절차를 실행합니다. 각 순전파(forward pass)는 세 셀의 뷰를 읽고 한 단계를 방출하며, 이 단계는 숫자, 올림 또는 빌림, 그리고 다음 연산을 포함합니다. 고정된 런타임은 뷰를 이동시키며 결과의 숫자를 쓰지 않습니다. 우리는 Lean에서 모델이 모든 길이의 모든 입력에 대해 정확한 경우와 오직 런타임이 제시하는 유한한 뷰 집합에 대해서만 정확한 경우가 필요충분조건(if and only if)임을 증명합니다. 또한, 어떤 유한한 테스트도 충분하지 않으며 단계들이 이전 단계를 읽는 경우에도 그러하고, 이 보장은 제한된 수치적 변화(bounded numerical perturbation)를 견디며 절차의 합성으로 확장됨을 보여줍니다. 모든 2,446개의 뷰는 웹 브라우저에서 모델을 실행하는 노트북 GPU라는 배포 장치에서 통과했습니다. 이 인증된 모델은 임의 길이에서 부호 있는 덧셈 및 뺄셈, 긴 곱셈 및 나눗셈, 제곱근(square roots), 그리고 최대공약수(greatest common divisors)를 수행합니다. 브라우저에서 등록된 200개의 문제 중 200개를 해결했으며, 최대 1,000자리까지의 합과 최대 20자리의 곱셈에 대해 220개 문제 중 220개를 해결했습니다. 이 수치에는 다른 10개 모델 중 가장 강력한 GPT-6.1 Sol이 217개를 해결한 경우도 포함됩니다. 이러한 절차를 기반으로 구축된 기호적 런타임(symbolic runtime)은 모델이 계산하는 모든 숫자에 대해 다항식을 해결, 전개 및 인수분해하며, 어댑터의 곱셈 게이트는 시트가 사용되지 않을 때 기본 모델을 정확하게 복구합니다.

AI 자동 생성 콘텐츠

원문 바로가기

Sketchpad: 소규모 Vision-Language Model을 이용한 인증된 정확 산술 연산

요약

핵심 포인트

댓글