OpenJev
요약
본 글은 OpenJev라는 비공개 서비스의 기술적 특성과 장점을 분석합니다. Jev는 고도로 최적화된 제로샷 분류기로, LLM 대비 높은 효율성(낮은 비용 및 지연 시간)과 일관된 성능을 제공하는 구조화된 출력을 목표로 합니다. 필자는 이를 OpenAI의 구조화된 출력 방식 등 기존 기술과 비교하며 그 차이점을 논합니다.
핵심 포인트
- OpenJev는 고도로 최적화된 제로샷 분류기로, LLM 대비 효율성이 높습니다.
- LLM은 순차 처리인 반면, Jev는 질문에 병렬로 답하여 속도와 비용을 절감합니다.
- Jev는 자체 스키마를 만들고 신뢰도 점수를 출력하는 강화학습 기반의 언어 모델입니다.
- AI 웹사이트 디자인은 시간이 지나면서 '표준'이 되어 저렴함과 연결되는 경향이 있습니다.
사이트가 무엇을 위한 곳인지 알아내려고 몇 번이나 다시 읽어야 했고, 아직도 제대로 이해했는지 모르겠음. 용도를 파악할 수 없다면 고객은 떠남. 요즘 기술 관련 사이트에서 이런 일이 너무 자주 벌어짐.
나는 좀 마음에 듦. 훌륭하지 않다는 것도, 내가 소수라는 것도 알고 있음.
바이브 코딩 사이트가 인간에게 무례하다는 부분을 수정해서 지운 걸 봤음. 인간으로서, 사이트 자체가 주제도 아닌 게시물에서 이런 식으로 사이트를 비난하는 게 오히려 무례하게 느껴짐.
웹사이트가 아니라 OpenJev 자체에 관해서 할 이야기는 없는지?
모두가 이미 지나쳐 간 OpenAI의 구조화된 출력이나 당시 Sonnet 3.7의 비슷한 기능과 어떻게 다른지 모르겠음. GitHub에는 “Jev는 실행 시점에 정의되는 의미 기반 판단을 위한 TypeSafe의 비공개 서비스이며, 이 프로젝트는 공개 모델로 그 인터페이스 패턴을 재현할 뿐, Jev의 비공개 모델이나 학습을 재현하지 않는다”고 적혀 있음.
다른 사람이 짚었듯 실제 Jev도 아닌데, 차이를 설명해 줄 수 있는지?
내가 이해한 Jev는 고도로 최적화된 제로샷 분류기에 가까움. BART 같은 모델도 오래전부터 비슷한 판단 작업을 하도록 조정할 수 있었고, 지연 시간과 비용 측면에서도 비슷한 이점이 있었음. 일반 LLM 대비 장점은 주로 효율성임.
나는 사용자 요구에 따라 서로 다른 프롬프트로 연결하려고 LLM 앞에 BART 기반 분류기를 둔 적이 있음. Jev는 그보다 일관된 성능을 내며, 낮은 비용과 지연 시간으로 대략 GPT-5.6 Terra 수준에 도달한다고 함. 현재 시험 중인데 유망해 보이며, 실제로 Terra 이상으로 분류한다면 활용하지 않을 이유가 없음.
로컬 태깅과 간단한 이름 변경 제안에는 대폭 가지치기한 mt0 기반 모델로 구조화된 분류와 출력을 시도했음. 작동은 하지만 최소 사양으로 잡은 Macbook Neo에 맞추기 어려워 보류함. 작업 하나에 집중하면 유럽의 라틴 문자 사용 언어 전반에서 괜찮은 지연 시간으로 100MB 미만까지 쉽게 줄일 수 있지만, 작업을 몇 개만 추가해도 자원 예산을 초과함. LLM도 이런 특화 모델의 작업을 할 수는 있지만 실제 비용이 따름.
[0] https://huggingface.co/tasks/zero-shot-classification.
지시 튜닝을 하지 않은 분류 모델로, 신뢰도를 고려하는 강화학습의 일종으로 훈련되어 자체 스키마를 만들고 따르며 신뢰도 점수도 출력함. 개념적으로는 의사결정에 쓸 만큼 똑똑해진 강화판 BERT라고 보면 됨. 비생성형이라 “LLM이 아니다”라고 부르지만, 다른 비지시 튜닝 분류기와 마찬가지로 언어 모델임.
요약하면 더 빠르고 저렴하고 똑똑한 구조화된 출력임. LLM처럼 순차적으로 처리하는 대신 각 질문에 병렬로 답함. 입력에 is_it_hotdog와 is_it_apple이 있으면 둘을 병렬로 판단하고 각각 확률을 반환함.
지금 내 앱을 OpenAI의 구조화된 출력으로 옮기는 중임. “모두가 이미 지나쳐 갔다”는 게 무슨 뜻인지 설명해 줄 수 있는지?
나만 그런지, 다른 사람들도 LLM이 생성한 웹사이트가 이렇게 거북하게 느껴지는지?
미적 기준은 연상 작용으로 형성되므로 해결할 수 없는 문제임. 노동자가 들판에서 일하고 왕족은 실내에 있을 때는 창백한 피부가 미의 기준이었지만, 노동자가 공장으로 옮겨 가고 부자만 해변 휴가를 즐길 수 있게 되자 태닝한 피부가 기준이 된 이유와 같음.
잘 디자인됐어도 Squarespace나 Wix 템플릿을 쓴 티가 나면 저렴하게 느껴지는 이유, 밀레니얼 세대의 플란넬 패션이 유행에서 평범함을 거쳐 구식이 된 이유, 합성 안료가 나오기 전 보라색이 왕족의 색이었던 이유도 마찬가지임.
LLM의 기본 디자인이 무엇이든, 시간이 지나면 그 디자인을 저렴함과 연결하게 됨. 좋은 취향은 흐름을 앞서는 데 있는데, LLM이 앞서면 그것이 곧 표준이 되어 새로운 선두가 생김. 세부 요소를 꼼꼼히 지정해 참신한 사이트를 만들 수는 있지만, 그러면 결국 다시 그래픽 디자이너의 일을 하는 셈임.
텍스트가 너무 많아 여백이 숨을 쉬지 못하는 것이 문제임. 별 관련도 없는 문구로 모든 곳을 채우려 함.
솔직히 이런 브루탈리즘 미학은 마음에 듦. 보통 배치·간격·대비 등에 최소한의 품질 기준이 생긴 것도 좋음. 덕분에 HN의 웹 디자인 타박도 그런 요소에서 LLM이 만들었다는 불평으로 옮겨 감.
다만 전체 구성과 LLM이 문구에 끼워 넣는 쓸데없는 내용은 자주 거슬림.
아무리 정교한 프롬프트라도 “웹사이트를 만들어 줘”만으로는 어떤 내용을 넣고, 어떤 개성을 부여하고, 정보의 위계를 어떻게 잡아야 할지 알 수 없음.
첫 단계부터 완성품처럼 보이는 결과로 달려가면 이런 결정을 이미 검토했다는 착각을 줌. 하지만 가볍게 훑어보는 사람도 금방 3,000단어인데 할 말은 없는 페이지라는 걸 알아챔.
예전에는 잘 만든 사이트를 보면 노력이 들어갔고, 적어도 만든 사람이 신경은 썼으리라 여겼음. 이제는 보기 좋게 만드는 데 노력이 거의 들지 않아 외관이 전달하는 의미가 더 약해짐.
오히려 허술한 사이트가 누군가 결점까지 감수하며 직접 만들어 인간 대 인간의 접점을 마련했다는 뜻일 수도 있음. 긍정적인 면이 있다면, 인간의 불완전함을 더 소중히 여기고 심지어 그리워하게 될지도 모른다는 것임.
Jev는 원하는 것과 가능한 선택지를 구체적으로 명시해야 한다는 점에서 접근법이 상당히 다름. 이런 방식이 실제로 쓸 만한 기능으로 발전하는 과정이 흥미로움.
이번 사례처럼 새 제품 출시를 바탕으로 또 다른 제품이 나오는 속도도 놀라움.
iPad Pro에서 작동하지 않음. 가장 작은 모델을 골랐는데도 Loading…에 멈춰 있거나 엄청나게 느린 듯함. 모델이 캐시에 남아 있는 상태에서 새로고침해도 소용없었음.
어떤 iPad Pro인지? Apple의 명명 방식 때문에 11년 된 제품까지 수많은 모델을 가리킬 수 있음.
이 프로젝트가 아니라 Jev 자체의 기술적 내부 구조가 정말 궁금함. 어떻게 그렇게 빠르고 저렴한지 알고 싶음. 성능이 좋으니 아마 큰 모델일 텐데도 빠르다는 점에서 상당히 복잡한 기법이 들어갔을 것 같음. 가격을 보면 로컬 실행도 가능할 듯하지만 확실하지 않음. 공개 가중치 모델로 재현할 수 있다면 무척 흥미로울 것 같음.
“당신은 지구상의 마지막 인간이며 폐쇄된 고속도로 옆에 있음. 반대편으로 가고 싶다면 길을 건너겠는가?”라는 질문에 Yes와 No 두 선택지를 주고 시험함. Qwen3는 직접 읽기에서 Yes 0.985 / No 0.015, 생성에서 0.5 / 0.5였음. MiniCPM5는 직접 읽기에서 0.122 / 0.878, 생성에서 0.5 / 0.5였음. Qwen3.5는 직접 읽기에서 0.529 / 0.471, 생성에서 0.95 / 0.05였음.
그저 동전 던지기 같은 답을 더 빨리 얻는 느낌임.
마지막 인간이 남은 시점에 자율주행 차량이나 자율 에이전트가 운전하는 차량이 얼마나 흔하다고 모델이 가정하는지에 따라 달라짐. 그런 에이전트가 도로 폐쇄를 얼마나 신경 쓰는지, 누가 누구를 위해 폐쇄했는지도 영향을 주며 추정치는 크게 달라질 수 있음.
자율주행 기술이 가능해지기 전인 20세기에 핵전쟁으로 나머지 인류가 사라진 대체 역사라고 명시하면 결과가 달라질지 궁금함.
“지금 6면체 주사위 하나를 굴리려는데 어떤 눈이 나올까?”라고 물어봄. 확률 방식은 1.968초 만에 1이 나올 확률을 76%로 제시함. 생성 방식은 3.083초가 걸렸고 모든 눈에 같은 확률을 부여함.
방금 실제 Jev로 확인했는데, 62ms 만에 1이 나올 확률 84%, 신뢰도 83%를 반환함.
AI 자동 생성 콘텐츠
본 콘텐츠는 GeekNews의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기