앞으로 TypeSafe AI 기업에 주목해야 할지도
요약
새로운 모델 Jev는 기존 LLM 대비 월등히 빠른 속도와 낮은 비용을 자랑하며, 특히 RLCD(확률 기반 정확도 일치) 방식을 통해 텍스트 생성의 신뢰도를 높였습니다. 이 방식은 단순한 답변 생성을 넘어 확률적 판단과 신뢰도 측정에 강점을 보입니다.
핵심 포인트
- Jev 모델은 LLM 대비 속도가 빠르고 비용이 저렴합니다.
- RLCD는 명시된 확률을 실제 정확도의 빈도와 일치시킵니다.
- 모델은 단순 텍스트가 아닌, 판단과 신뢰도를 제공할 수 있습니다.
- 에이전트는 RLCD 기반의 보정된 확률로 실행 여부를 결정합니다.
우리는 앞으로 TypeSafe AI 기업에 주목해야 할지도 모릅니다.
이 정신나간(?) 모델 Jev는 LLM 대비 20200배 빠르고,400배 저렴하며(!) 출력 토큰은 아예 무료입니다. 너무 싸서 계량할 필요조차 없습니다..
비용은 40
보통 LLM은 이렇게 학습합니다.
RLHF → 사람이 "이 답변이 더 좋아!!"라고 선택하고, 모델은 그 방향으로 훈련됩니다.
하지만 RLCD는 이렇게 작동합니다.
→ 명시된 확률을 실제 정확도의 빈도와 일치시킵니다.
그래서 Jev는 텍스트를 작성하는 것이 아니라 이런 것들을 토해냅니다.
이 이메일은 긴급한가 / 정상적인가 / 스팸인가? 각 옵션에 대한 확률은 얼마인가요? 이 판단에 대한 신뢰도는 어느 정도인가요?
= 에이전트는 RLCD에서 보정된 확률을 보고, 자신이 매우 확신할 때만 즉시 실행합니다.
이것이 지금까지 부족했던 특별한 부분입니다.
그리고 이름 짓기가 천재적입니다! Jev는 효율성 향상이 더 많은 사용으로 이어지는 제본의 역설(Jevons paradox)에서 따왔습니다. 헤헤.
AI 자동 생성 콘텐츠
본 콘텐츠는 X @lucas_flatwhite (자동 발견)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기