Claude Fable 5의 종말과 GPT-5.6 출시 지연… Microsoft가 게임의 판도를 바꿨습니다 🤯

요약

Microsoft가 1-bit LLM 추론 프레임워크인 bitnet.cpp를 오픈 소스로 공개했습니다. 이를 통해 GPU 없이 로컬 CPU만으로도 100B 파라미터 규모의 모델을 효율적으로 실행할 수 있습니다.

핵심 포인트

• bitnet.cpp 오픈 소스 공개
• GPU 없이 로컬 CPU에서 대규모 모델 실행 가능
• 기존 대비 추론 속도 6.17배 향상
• CPU 에너지 소비량 82.2% 감소