Reflex-1 소개

한 번의 통과로, 여러 가능한 결정들

Reflex-1은 선택으로 끝나는 결정을 위한 421M 파라미터 모델입니다. 이 모델에 텍스트 상태(textual state), 질문(question), 그리고 후보 답변(candidate answers)을 제공하면, 단일 순방향 통과(single forward pass)로 점수를 매깁니다. 후보들은 요청마다 바뀔 수 있습니다.

28개 레이어의 컨텍스트 인코더(context encoder)와 6개 레이어의 후보 인코더(candidate encoder)가 공유된 스코어링 헤드(scoring head)에 정보를 공급합니다. 이 애플리케이션은 선택지들을 제공하고 결과를 실행합니다.

Reflex-1 사용해보기

공개 가중치(Public weights), 토크나이저(tokenizers), 그리고 추론 코드(inference code)는 Hugging Face에서 이용 가능합니다. 의존성들을 설치한 후:

import torch
from transformers import AutoModel

...