Ternlight, 브라우저(WASM)에서 실행되는 7MB 임베딩 모델
요약
Ternlight는 서버 호출 없이 브라우저(WASM) 환경에서 텍스트 임베딩과 유사도 검색을 수행하는 경량 라이브러리입니다. 엔진과 가중치를 포함해 5~7MB의 작은 크기로 CPU 기반의 빠른 클라이언트 측 의미 검색을 지원합니다.
핵심 포인트
- 서버 호출 없는 클라이언트 측 임베딩 및 유사도 검색 지원
- 5~7MB의 초경량 모델로 브라우저 내 WASM 실행
- 네트워크 지연 없이 약 5ms 내외의 빠른 검색 속도 제공
- npm 패키지 설치만으로 즉시 사용 가능한 간결한 개발 경험
Ternlight는 서버 호출 없이 브라우저 안에서 텍스트 임베딩과 유사도 검색을 수행해, 작은 클라이언트 측 의미 검색을 빠르게 구성할 수 있게 함
- 기본 패키지는 엔진과 가중치를 합쳐
7MB, mini 변형은 5MB이며 GPU 없이 CPU에서 동작함
@ternlight/base
를 설치한 뒤 embed
, similar
를 가져오면 3줄 수준으로 의미 기반 검색 흐름을 만들 수 있음
- 예시 호출은 레시피 목록에서 상위 3개 결과를 정렬하며, 약
5ms와 네트워크 호출 없음이 강조됨 - React 문서 검색 데모는 사용자가 질문을 입력하면 브라우저에서 검색을 수행하고, 5MB 티어인
@ternlight/mini가 이를 구동함
브라우저 안에서 끝나는 임베딩
Ternlight는 “7MB 임베딩 모델”을 내세우며, 텍스트를 밀리초 단위로 임베딩하고 서버를 호출하지 않음
실행 특성
- API 호출 없음
- 엔진 + 가중치:
7MB - mini 변형:
5MB - 빠른 임베딩: 약
5ms - CPU 전용, GPU 없음
설치와 사용 예시
- npm 패키지 하나로 제공되며, 별도 모델 다운로드 단계나 서버 없이 사용할 수 있음
- 설치 명령은 다음과 같음
npm install @ternlight/base
@ternlight/base
에서 embed
, similar
를 가져와 의미 기반 검색을 실행함
import { embed, similar } from '@ternlight/base';
similar('easy weeknight dinner ideas', recipes, { topK: 3 });
// → ranked matches · ~5 ms · zero network
AI 자동 생성 콘텐츠
본 콘텐츠는 GeekNews의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기