최근 화제인 'Jev'와 'Laya'란 무엇인가? '글을 쓰지 않는 AI'

어느새 타임라인이 Jev로 가득 찼다

9월 중순경부터 Zenn이나 LinkedIn을 열 때마다 'Jev'라는 글자가 눈에 들어왔습니다. 'LLM보다 수십~수백 배 빠르다', '출력 토큰 무료', '환각(hallucination)하지 않는다' 등 좋은 말들만 쏟아져 나와서, 이제 와서 궁금해졌기에 일차 정보를 바탕으로 저 나름대로 정리해 보았습니다.

한마디로 말하면 '글을 쓰지 않는 AI'

Jev는 샌프란시스코 스타트업 TypeSafe AI가 2026년 9월 15일에 얼리 액세스를 시작한, 의사결정에 특화된 모델입니다. 동사는 이를 'System One 모델'이라는 새로운 카테고리의 첫 번째 사례로 규정하고 있습니다. 이름의 유래는 심리학자 다니엘 카너만(Daniel Kahneman)이 제시한 '빠른 사고(시스템 1)'라고 합니다.

평소 사용하는 ChatGPT나 Claude와 가장 다른 점은 글을 전혀 쓰지 않는다는 것입니다. 입력하는 것은 '상황을 나타내는 데이터(state)'와 '형식을 정한 질문(questions)'이며, 반환되는 것은 글이 아니라 미리 정해진 형태의 답변과 보정된 확률값뿐입니다. 읽는 대상은 인간이 아니라 호출하는 프로그램입니다.

개발자: Diogo Almeida (OpenAI에서 약 4년간 RLHF, InstructGPT, ChatGPT, GPT-4 개발에 참여)
설립: 2024년, Erik Gafni와 Sasha Sheng가 TypeSafe AI 설립
투자 유치: DCVC 주도로 4,000만 달러 시드 투자 유치 (Jev 공개와 동시에 발표)

본인 말에 따르면 '프론티어급 지능을 가진 함수 호출입니다. 비정형화된 상태(state)를 넣으면, 타입이 지정된 확률적 판단이 나옵니다.'라고 합니다. 개인적으로는 소프트웨어에 내장하는 **'똑똑한 if문'**이라는 이해가 가장 와닿았습니다.

질문할 수 있는 형식은 과감하게 3가지로만

Jev에게 던질 수 있는 질문의 종류는 의도적으로 3가지로 제한되어 있습니다.

공식 블로그의 예시가 이해하기 쉽습니다. 지원 티켓 문구를 전달하고, '환불 요청인지'를 단 하나의 질문으로 물어봅니다.

// 리퀘스트
{
"state": { "message": "지난주에 산 상품을 반품해서 환불해 주세요" },
...

// 레스폰스 (글은 전혀 포함되지 않음)
{ "answers": { "is_refund_request": { "type": "noul", "noul": 0.97 } } }

조용하지만 효과적인 점은, 하나의 state에 대해 질문을 여러 개 모아도 레이턴시가 거의 변하지 않는다는 특성입니다. 그래서 '나중에 사용할지도 모르는 판단도 일단 전부 미리 물어두기'라는 사용 방식이 전제되어 있는 것 같습니다. CPU의 투기적 실행(speculative execution) 같은 발상이라고 느껴졌습니다.

왜 이렇게까지 화제가 되었을까

속도와 비용의 격차가 다르다

공식 발표에 따르면, 응답은 70~500밀리초 (대부분 100밀리초 전후), 입력 토큰은 $0.042/100만 토큰이며 출력은 무료입니다. LLM보다 수십~수백 배 빠르고 저렴하다고 합니다. 다만 이는 '분류/판정'이라는 System One 작업에 한정된 비교이며, 공식 블로그 자체도 '실제 효과보다 높게 나오고 있을 것'이라고 주석을 달고 있는 점은, 무조건 받아들이기보다는 주의해야 할 부분입니다.

'환각(Hallucination)하지 않나?'

Jev는 준비된 선택지 외의 답변을 원리적으로 할 수 없으므로, '형식이 깨지는' 일은 일어나지 않습니다. 다만 보장되는 것은 어디까지나 답변의 **'형식'**일 뿐이며, 내용(판단 자체의 정확성)은 별개의 문제입니다. 이 부분은 혼동하기 쉬우니 주의가 필요하다고 느꼈습니다.

실제 사례가 바로 나왔다

공개된 지 얼마 되지 않아 실제 활용 사례들이 연이어 나온 것도 화제성을 높이는 데 기여했을 것입니다.

다.

실제 사례가 바로 나왔다

공개된 지 얼마 되지 않아 실제 활용 사례들이 연이어 나온 것도 화제성을 높이는 데 기여했을 것입니다.

• Vercel: 보안과 관련된 명령어 분류에 사용하며, 속도 향상 및 정확도 개선을 보고함 -
• LangChain: 위험한 도구 호출을 사전에 차단하는 미들웨어와, 작업의 난이도에 따른 모델 라우팅을 공개함 -
• mizchi 님 (국내): jev-lint(ast-grep으로 추출된 코드에서 '함수명과 구현이 일치하는지'를 판별하게 하는 Lint), jev-test-filter(git diff를 전달하여 영향을 받을 테스트만 걸러내는 기능)이라는 두 가지 도구를 공개함

모두 '구조 파악은 기계적으로, 의미 판단만 Jev에 맡긴다'는 역할 분담이 깔끔했습니다.

부담 없이 사용해보고 싶다면, 오픈소스 버전인 Laya가 추천됩니다

Jev는 TypeSafe AI의 얼리 액세스 제품이라 등록 경쟁이 치열하거나, 클라우드에 자신의 데이터를 전송하는 것에 거부감이 있는 등 진입 장벽이 있습니다. 그래서 가볍게 사용해보고 싶을 경우 Convai Innovations에서 공개한 Laya가 추천됩니다.

• 라이선스: Apache 2.0 (오픈 웨이트) -
• 모델: ModernBERT-large

기본 모델은 421M 파라미터의 영어 버전 / mmBERT-base

기본 모델은 322M 파라미터의 다국어 버전 (100개 언어 이상 지원) -
호환성: choice

・score

・noul

세 종류에 대응하며, TypeSafe의 /v1/systemone과 동일한 형태의 요청으로 작동하는 구현이 많습니다. 나중에 클라우드 버전 Jev로 전환하고 싶어도 코드를 거의 수정할 필요가 없어 보입니다.

설정은 몇 분 만에 끝납니다.

pip install laya

import laya
agent = laya.load(

경보가 울렸을 때 해야 할 일은 대체로 정해져 있습니다. 정말 이상한 건지, 오탐지인지. 심각도는 어느 정도인지. 지금 당장 사람을 깨워야 하는지. 이러한 1차 트리아지(triage)는 정형화된 판단의 반복이며, 게다가 속도가 생명입니다. 인시던트 대응 중에 LLM의 응답을 몇 초 동안 기다릴 여유가 없지만, 고정 규칙만으로는 표현 방식이 다른 로그에 즉시 대응하기 어려워 결국 사람이 확인해야 하는 상황이 발생합니다.

Jev와 같은 '빠르고, 확률이 보정된 판단 모델'은 바로 이 간극을 메울 수 있을 것 같습니다. '이 경보는 대응이 필요한가', '심각도는 SEV1~4 중 어느 정도인가', '에스컬레이션해야 하는가'를 밀리초 단위와 확신도(confidence)와 함께 반환해 준다면, '확신도가 낮은 것만 사람에게 넘기는' 운영 방식 자체가 가능해집니다. SOC에서 경보 피로(alert fatigue)를 겪었던 입장에서 볼 때, 매우 절실하게 필요했던 기능입니다.

## 기타 사용 사례

흥미롭게 활용하는 분들을 몇 분 발견하여 소개합니다.

| 사례 | 하는 일 | 출처/비고 |
|---|---|---|
| 코드 리뷰 1차 분류 | SonarQube가 감지한 문제를 먼저 Jev로 '정말로 중요한지' 분류하고, 중요한 것만 상세 분석을 작성하는 AI에 넘긴다. 모든 경고를 빠짐없이 검토할 시간과 비용을 절약한다. | Reddit 게시물 출처. 익명 게시글이므로 실재성 및 규모는 미검증 |
| jev-gc | 에이전트의 장시간 세션에서 쌓이는 OpenTelemetry 스팬(span)을 저렴한 규칙으로 먼저 분류하고, 판단에 어려움이 있는 부분만 Jev에게 '남길지/압축할지/보관할지'를 묻는다. | OSS 도구 |
| jev-rules | Claude Code용. 쌓인 방대한 표준 지침(standard instruction)들 중 현재 프롬프트와 관련된 것만 Jev가 선택하게 한다. | OSS 도구 (Claude Code 플러그인) |

모든 사례에 공통적으로 나타나는 것은 '판단은 Jev, 그 외(생성/실행/보관)는 다른 시스템'이라는 동일한 역할 분담입니다.

## 참고

### 토론

![](https://static.zenn.studio/images/drawing/discussion.png)