Jev 유사 의사결정 모델이 AI 시장을 휩쓰니다: 연구원 주장, TypeSafe가 자신의 연구를 복제했다

TypeSafe의 Jev 공개 이후 많은 AI 업체들이 경쟁 모델을 출시했으며, Microsoft나 OpenAI 등 여러 곳에서 유사한 오픈 소스 프로젝트가 등장했습니다. 하지만 ConvAI Innovations의 Nandakishor Mukkunnoth는 자신이 1년 전에 Jev 아키텍처에 대한 기본 개념을 생각해냈다고 말합니다. 그렇다면 누가 누구를 모방했을까요?

간단히 요약하자면, Jev와 그 복제 모델들은 사용자의 자체 코드에서 사용하기 위해 '의사결정 모델(decision models)'이 구동하는 API입니다. 사용자에게는 고객의 온라인 쇼핑 거래 기록과 같은 입력 데이터와 함께 질문을 제공합니다. 예를 들어, "사용자가 반품을 찾고 있는가?"라는 예/아니오 답변에 대한 질문이나, "어떤 품목을 언급하고 있는가?"라는 객관식 답변이 있을 수 있습니다. Jev와 유사한 AI 모델은 각 질문이나 선택지에 대해 확률로 답변하며, 이 확률값은 사용자의 자체 "if" 문에서 활용될 수 있습니다. 개념 자체는 엄밀히 말해 새롭지 않지만, 이러한 실용적인 응용 방식은 매우 혁신적입니다.

이 발표는 인터넷을 뜨겁게 달구었는데, 그 이유는 겉보기에는 간단한 이 개념이 극도로 유용하며 LLM(Large Language Model)에게 직접 답변을 얻어내려고 할 때 발생하는 일반적인 문제들을 깔끔하게 우회하기 때문입니다. 토큰 단위의 텍스트 생성도 없고, 대화 기록을 주고받는 과정도 없으며, 컨텍스트를 위해 방대한 정보를 주입할 필요도 없고, 대화적 환각(conversational hallucination) 현상도 없습니다. 오직 확률 형태의 직접적인 데이터만 나옵니다. 또한 매우 빠르며, 표준 LLM과 비교했을 때 엄청나게 저렴합니다.

Jev와 함께 TypeSafe는 자체 System One 아키텍처에 대한 간략한 설명도 공개했습니다. 불과 며칠 후, ConvAI Innovations의 설립자인 Nandakishor Mukkunnoth는 블로그 게시물에서 자신이 실제로 'Jev 아키텍처를 일 년 전에 설계했다'고 설명했습니다. 그는 확률 추정 모델을 만든 과정을 설명하는 arXiv 논문 [SalesRLAgent]에 대해 언급했으며, 이 논문은 2025년 3월 30일에 발표되었습니다. 그는 논문과 함께 자신의 모델 가중치와 데이터셋을 공개했습니다. 나중에 그는 Jev가 작동하는 방식과 더 유사한 9월 논문으로 후속 작업을 진행했습니다.

Mukkunnoth는 자신의 글에서 자신이 '아이디어가 특정 수직적 사용 사례(vertical use case)를 위해 구축되었기 때문에' 간과되었다고 설명하며 좌절감을 표출했습니다. 즉, SalesRLAgent가 하나의 특정 문제를 해결하기 위해 만들어진 반면, TypeSafe는 Jev를 범용 의사결정 엔진으로 만들었다는 의미입니다. 주목할 만한 점은 이 회사가 Jev를 자체 서버, API, 문서, 개발자 키트 및 당연히 가격 책정이 포함된 완전한 호스팅 제품으로 출시했다는 것입니다.

그럼에도 불구하고 그는 그 개발에 대해 분노하는 대신, 결국 같은 날쯤 오픈 소스 Laya를 공개하기로 결정했다고 말했다. Laya는 기본적으로 Jev 스타일의 모델이자 인터페이스이며, 다국어 지원 기능을 갖추고 사용자의 자체 하드웨어에서 실행할 수 있다. 혼란을 가중시키기도 끝이 없는지, TypeSafe와 Mukkunnoth 모두 자신들의 모델을 'System 1/One' 유형이라고 불렀는데, 이는 아마도 Daniel Kahneman의 책 Thinking, Fast and Slow을 참조한 것으로 보인다. 이 책은 System 1을 빠르고 감정적인 사고방식으로 설명하는 반면, System 2는 느리고 논리적인 생각을 지칭한다.

어쨌든, AI의 새로운 사용 사례로 인해 발생한 과대광고(hype)를 막을 수는 없었고, 따라서 이 분야의 플레이어들은 자신들이 가장 잘하는 일을 했다. 즉, 개념을 복사하고 자체 서비스를 출시한 것이다. Jev가 공개된 지 불과 몇 주 만에, 전 세계는 Microsoft Decision, OpenAI Decisions API, 그리고 Fastino Glide를 목격했다. Cloudflare Clef와 Perplexity Decider는 모두 오픈 웨이트(open weights)로 등장하여, 작업이 가능하다면 사용자의 자체 장비에서 실행할 수 있다는 의미였다. 오픈 소스 영역에서는 Amazon의 Strands Decider 2B 외에도 Kev, Von, Jeff, jevlike, SemIf, OpenJev, NanoJev, Ollaya 등 수많은 프로젝트가 존재한다.

왜 이렇게 많은 것일까? 그 이유는 이 상업적인 프로젝트들을 포함한 대부분의 프로젝트들이 같은 근원을 공유하기 때문이다. 즉, 기존의 경량 모델(대부분 Alibaba의 오픈 소스 Qwen 변형)을 가져와 입력, 출력 및 의사 결정 절차를 형성하는 추가 레이어만 더한다는 것이다. Mukkunnoth의 Laya는 LLM인 Qwen보다는 Bert 계열의 인코더 전용 모델에 기반하고 있다. 그럼에도 불구하고, 대체재들이 얼마나 빨리 나타났는지 고려하면, 많은 사람들이 그의 작업에서 적어도 몇 가지 노트를 베꼈다고 상상하는 것은 어렵지 않다.