TypeSafe AI, '대화형이 아닌' 의사결정 AI로 평가액 8억 7천만 달러 유치

챗봇(chatbot)이 헤드라인을 장악하고 있지만, '대화할 수 없는' AI 모델을 구축하는 회사가 자본과 기업 채택의 초점이 되고 있습니다. Jev 개발사인 TypeSafe AI는 최근 870 million 펀딩 라운드를 통해 75억 달러의 평가액(valuation)을 기록했습니다. Andreessen Horowitz가 이 라운드를 주도했으며, Sequoia와 기존 투자자인 DCVC도 참여했습니다—이는 Jev 출시 몇 주 만에 이루어졌습니다.

Jev는 대규모 언어 모델(large language model)이 아닙니다. 텍스트를 출력하는 것이 아니라 확률을—혹은 TypeSafe의 말로 '보정된 의사결정(calibrated decisions)'을 출력합니다. 기존 LLM은 자연어를 생성하며, 개발자는 필요한 값을 추출하기 위해 추가적인 파싱 코드(parsing code)를 작성해야 합니다. 대신 Jev는 입력을 미리 설정된 출력 세트(preset output set)로 매핑하고 예/아니오 판단, 수치 점수 또는 고정 옵션 결과—코드가 즉시 소비할 수 있는 타입화된 값(typed values)—를 직접 반환합니다. TypeSafe는 이 접근 방식을 '보정된 의사결정(calibrated decision-making)'을 위한 강화학습 (reinforcement learning)이라고 부릅니다. 공동 창업자인 Diogo Almeida는 OpenAI 출신이며 RLHF의 공동 개발자였는데, RLHF가 모델을 대화에 더 좋게 만들지만 보정을 조용히 저하시켜 '모드 붕괴(mode collapse)'를 초래한다고 관찰했기 때문에 OpenAI를 떠났습니다.

성능 측면에서 Jev는 700밀리초 이내에 응답하며, 이는 최첨단 LLM보다 약 100배 빠르고 비용은 1/100에서 1/500 수준입니다. 가격은 출력 토큰이 무료인 상태로 100만 토큰당 0.042 p입니다. 공식 비교에 따르면, 주석(annotation) 작업의 경우 경쟁 LLM이 823.5초에 $1.50가 드는 반면 Jev는 203.2초에 0.84달러로 처리했습니다. 출시 후 사흘 만에 Jev는 1조 개의 토큰을 생성했습니다.

기업 도입률 또한 매우 빨랐다: TypeSafe는 Fortune 500 기업 중 3분의 1이 이미 Jev를 스팸 필터링, 거래 의사결정 지원, 에이전트 액션 판정(adjudication), 워크플로우 승인, 분류 및 라우팅에 사용하고 있다고 주장한다. 이러한 관심은 실리콘밸리 전반의 빠른 추격 움직임을 촉발했다: OpenAI는 Decisions API를 도입했고, Databricks는 ai_decide를 출시했으며, Cloudflare는 Clef 패밀리를 오픈소스로 공개했고, Amazon은 이미 Strands Decider 2B를 운영하고 있다. 새롭게 등장하는 역할 분담이 명확하다—생성 모델(generative models)은 복잡한 추론을 처리하는 반면, 의사결정 모델(decision models)은 높은 확실성을 가진 자동화를 처리한다.