AI 산업은 소수의 조직에 권력을 조용히 집중시키고 있는 비용 문제를 안고 있습니다. Sapient Intelligence는 최근 400억 개의 토큰(tokens)을 사용하여 1,000달러 미만으로 학습된 10억 파라미터(parameter) 규모의 추론 모델인 HRM-Text를 출시했습니다. 이는 프런티어 모델(frontier models)이 요구하는 수준보다 약 1,000배 적은 비용입니다. 이 모델은 스마트폰에서 완전히 오프라인으로 실행되며, 추론 벤치마크(reasoning benchmarks)에서 경쟁력 있는 점수를 기록하고, 완전한 오픈 소스(open-source)입니다. 본 글은 이 모델 이면에 있는 아키텍처(architectural) 질문이 업계가 기울이는 것보다 더 진지한 관심을 받을 가치가 있다고 주장합니다.

전체 읽기