ProgramAsWeights(PAW): 영어로 텍스트 분류기를 정의하고 로컬 CPU에서 실행하기

저희는 University of Waterloo에서 ProgramAsWeights (PAW)를 개발해 왔습니다. PAW는 사용자가 영어로 텍스트 함수를 설명하면, 이를 작은 신경 프로그램으로 컴파일하여 자신의 컴퓨터의 Python 환경에서 호출할 수 있게 해줍니다. 저희 코드, 모델, 논문은 모두 공개되어 있습니다.

[IMG:N]

로컬 이메일 분류기 가져오기: programasweights를 paw로 임포트하고, 함수를 정의합니다. fn = paw.compile_and_load("Classify urgent emails") 이후에 fn("Need this today") # "urgent" (로컬에서 실행)와 같이 호출할 수 있습니다.

어디서 무엇이 실행되는가:

• 컴파일(Compilation): 기본적으로 함수 설명을 저희 호스팅 컴파일러로 전송합니다. 학습된 컴파일러는 공유되는 작은 모델에 대한 작업별 LoRA 어댑터를 생성합니다. 이후의 함수 호출은 로컬에서 실행됩니다 (llama.cpp 사용). 예를 들어, 로컬 추론을 사용할 때 입력 이메일은 사용자 컴퓨터에 남아 있습니다.
• 모델 크기: 표준 Qwen3 0.6B 인터프리터의 경우 기본 모델 다운로드 용량은 약 594 MB이며, 각 프로그램당 약 22 MB가 필요합니다. 컴파일러 가중치 또한 공개되어 있어 직접 컴파일을 실행하거나 이를 기반으로 구축할 수 있습니다!

자료 링크:

• 코드 및 설치 문서: https://github.com/programasweights/programasweights-python
• 컴파일러 가중치: https://huggingface.co/programasweights/paw-4b-qwen3-0.6b
• 논문: https://arxiv.org/abs/2607.02512
• 문서 (에이전트가 쉽게 사용할 수 있도록): https://programasweights.com/AGENTS.md
• 직접 사용해 보기: https://programasweights.com/playground