대형 언어 모델 (LLMs) 은 NLP 의 주요 발전이 있었지만, 여전히 막대한 메모리와 컴퓨팅 요구사항은 실제 배포를 방해합니다. 이진화 (Binarization) 는 가중치를 1 비트로 압축하여 컴퓨팅 비용과 대역폭 비용을 근본적으로 낮출 수 있습니다. 그러나 기존 방법들은 활성화의 무거운 꼬리 (heavy tails) 를 해결할 수 없으므로, 활성화를 고 정밀도로 유지해야 하며, 이는 진정한 엔드 투 엔드 가속을 방지합니다. 이 한계를 극복하기 위해 우리는 BWLA (Binarized Weights and Low-bit Activations) 를 제안하며, 1 비트 가중치 양자화와 함께 저 비트 활성화 (예: 6 비트) 를 달성하면서 높은 정확도를 유지하는 첫 번째 포스트 트레이닝 양자화 프레임워크입니다. 직교 크로네커 변환 (Orthogonal-Kronecker Transformation, OKT) 은 EM 최소화 (EM minimization) 를 통해 직교 매핑을 학습하여, 단일 모달 가중치를 대칭 이분 모달 형식으로 변환하고 활성화의 꼬리와 불일치 (incoherence) 를 억제합니다. 근접 SVD 투영 (Proximal SVD Projection, PSP) 은 근접 SVD 투영을 통해 경량 저ランク 정교화를 수행하여 최소한의 오버헤드와 함께 양자화 가능성을 더욱 향상시킵니다. Qwen3-32B 에서 BWLA 는 6 비트 활성화 하에서 Wikitext2 perplexity 를 11.92 (SOTA 의 38 대) 로 달성하며, 5 가지 제로 샷 (zero-shot) 작업을 70% 이상 개선하고, 추론 속도 향상 3.26 배를 제공하여 실제 세계 LLM 압축 및 가속에 대한 강력한 잠재력을 입증합니다.