AI를 '대화하는' 단계에서 '업무를 처리하는' 단계로: Typesafe 창립자 Diego가 Jev, 기계 네이티브 지능 및 RLCD 의사결정

[

]

전체 내용 요약:
이번 인터뷰의 핵심은 다음과 같습니다. 현재 대규모 언어 모델(LLM)은 채팅, 글쓰기, 수학 문제 풀이 등은 매우 잘하지만, '은행 카드 변경', '보험 심사', '작업 지시서 작성', '환불 여부 결정'과 같은 기업의 일상적인 소규모 업무에는 오히려 오류가 잦고 완전 자동화에 어려움을 겪는다는 점입니다. Typesafe의 Jev는 이러한 문제를 해결하기 위해 AI를 '글을 쓰는 작가'로 훈련시키는 대신, '소프트웨어에 객관식 문제(선택지)를 내주는 심판'처럼 훈련시키고자 합니다. Jev는 가능한 결정들, 비즈니스 입력값들을 시스템에 제공하고, 각 결정의 신뢰도를 확률로 반환합니다. 개발자는 자신의 코드를 이용해 임계값을 설정하거나 규칙을 추가하여 데이터베이스를 다루듯 AI를 시스템에 통합할 수 있습니다. 창립자는 많은 사람들이 '단순 분류기(classifier)'라고 비판하는 의견은 오해한 것이라 말합니다. 분류 자체가 지능을 소프트웨어에 구현하는 일반적인 방식이지만, Jev는 단순히 기존의 작은 모델에 분류 계층만 추가하는 것이 아니라, 새로운 훈련 방법인 RLCD를 사용하여 모델이 '정확하게 의사결정을 내리도록' 다시 학습시킵니다. 이는 빠르고 저렴할 뿐만 아니라 가장 중요한 것은 안정적입니다. 인터뷰에서는 RLHF와 RLVR을 비교하며, 과거에는 '사용자 만족도 최적화'에 초점을 맞췄다면 이제는 '시스템의 신뢰성(trustworthiness)'을 최적화해야 한다고 강조합니다. 또한 Waymo나 Tesla 사례를 들며, 신뢰할 수 있는 자동화는 단 하나의 거대 모델에 의존하기보다 공학적인 분해(engineering decomposition)에 달려있음을 보여줍니다. 마지막으로 미래에는 코드를 작성하는 에이전트(Agent) 역시 Jev를 사용하여 라우팅, 도구 선택, 검증을 수행함으로써 '대화만 하는 AI'를 '실제 업무를 처리하는 AI'로 변화시킬 수 있다고 설명합니다.

제(一) 부분: 프로그램 시작, Jev 출시 배경 및 '왜 AI는 자동화되지 않는가'에 대한 핵심 의문 제기 (0% - 10%)
1 인터뷰 배경과 Jev의 주목받게 된 상황: Typesafe는 3주 전 잠적 상태를 끝내고 Jev를 발표했으며, 이는 AI 분야에서 가장 뜨거운 신규 모델 중 하나가 되었습니다. 개발자들은 두 그룹으로 나뉘어 논의했는데, 한 그룹은 이것이 단순한 분류기일 뿐이라며 혁신성이 없다고 평가했고, 다른 그룹은 빠르고 저렴하며 자동화 구축에 적합하다고 보았습니다. 며칠 만에 오픈소스 유사품들이 등장했으며, OpenAI 역시 이에 대응하여 자체 의사결정 모델을 발표했습니다. 진행자는 대부분의 공개적인 논의가 핵심을 놓치고 있다고 지적합니다. Jev의 진정한 혁신은 속도나 비용에 있는 것이 아니라 'AI가 어떤 목표를 위해 최적화되어야 하는가'라는 근본적인 질문에 있습니다.
2 게스트 소개 및 배경: Diego Almeida는 Typesafe의 공동 창립자이자 CEO이며, OpenAI에서 4년 반 동안 근무한 경험이 있습니다. 그는 InstructGPT와 RLHF 관련 연구에 참여하며 언어 모델을 사용 가능한 비서로 조정하는 핵심 인물 중 한 명입니다. 현재 Jev를 개발하면서 '기계 네이티브 지능(machine native intelligence)'이라는 개념을 제시했습니다. 이는 모델이 사람에게 보여주기 위한 자연어 문자열을 최적화하는 것이 아니라, 소프트웨어 호출에 사용될 신뢰할 수 있는 의사결정을 최적화한다는 의미입니다.
3 엘리베이터 스피치와 자동화의 공백: Diego는

제(三)부: 톱니 모양의 능력, RLHF 비대칭성 및 쓰라린 교훈 (Bitter Lesson) (19% - 31%)**
1. 톱니 모양의 가장자리(Jagged edge)는 모델 속성인가 사용법 속성인가: 사회자가

제(6)부 Jev 기술 형태, RLCD 및 확률 교정 (57% - 70%)
1. 불완전한 것은 일반적인 후처리 학습이 아니라 스택 재구축이다: Diego는 'post-training'이라는 용어가 미래에는 부정확할 것이라고 말했습니다. Jev는 다양한 오픈소스 가중치 모델을 기반으로 '프랑켄슈타인식(Frankenstein)' 재조립을 수행하며, 사람에게 글을 쓰는 데 초점을 맞춘 많은 구성 요소를 제거하고 의사결정 목표에 따라 다시 연결합니다. 팀은 사전 학습을 진행하지 않았는데, 인터넷 콘텐츠가 이미 다운스트림 사용이 가능한 압축된 지식으로 '끓여졌다'고 보고, 이 위에 10배 수준의 의사결정 도약을 하는 데 중점을 두었습니다. 모델 내부를 '압축된 인터넷 배터리'로 간주하고, 여기에 비언어 인터페이스를 입히는 형태입니다.
2. RLCD 정의와 RLHF와의 차이점: RLHF(Reinforcement Learning from Human Feedback)는 인간의 선호도, 좋아요/싫어요 피드백, 만족스러운 글쓰기를 최적화합니다. 반면, RLCD(reinforcement learning for calibrated decisions)는 '교정된 의사결정'을 최적화하며, 여기에는 여러 알고리즘 조합이 포함됩니다. 목표는 소프트웨어에 조정 가능한 확률을 제공하는 것입니다. 예를 들어 function calling 자체가 본질적으로 결정 계층인데, 오늘날의 채팅 API는 단순히 문자열 스위치만 제공합니다. Jev는 모든 함수/도구가 로직 편향(logic bias)을 가져야 한다고 주장하며, Walmart와 Costco가 다른 환불 또는 인력 업그레이드 전략을 임계값으로 조정해야지, 정책을 system prompt에 고정해서는 안 된다고 말했습니다.
3. 확률, 임계값 및 교정 출처: Jev는 외부 API에서 신뢰도/확률을 반환하여, 마치 로짓(logits)을 개발자에게 넘겨 샘플링과 라우팅을 직접 하도록 하는 것과 같습니다. 내부와 외부 API는 기본적으로 동일합니다. 교정은 단순히 모델이 0부터 1 사이의 숫자를 토해내는 것이 아니라, 오픈소스 기반 모델의 사전 학습된 교정에서 출발하여 RLCD 목표로 유도됩니다. 그는 RLHF나 RLVR이 매끄러운 텍스트를 만들면서 과도한 자신감(overconfidence)과 모드 붕괴(mode collapse)를 만들어 확률적 품질을 심각하게 훼손한다고 지적했습니다. GPT-4 이후로는 후처리 학습 버전에서 이러한 현상이 더욱 두드러집니다. 반면, RLCD는 RLVR의 자가 부스트 추론처럼 스스로 교정하며, 장미 확률(long-tail probability)을 신뢰성 있게 만들고 비용/이익이 다른 비즈니스 액션을 선별하는 것을 지원합니다.

제(7)부 일반화, 분포 내/외, 모델과 코드 하네스 관계 (70% - 83%)
1. 일반화 난이도: 결정이 텍스트보다 어렵지 않을 수 있다: 사회자는 회계 워크플로우가 '매우 정확하고, 분포 외에서는 자신감 있게 틀릴 수 있다'는 점을 우려했습니다. Diego는 ChatGPT가 정말 범용적인지 되물으며, RLHF는 주관적인 텍스트 때문에 쉽게 범용적으로 보일 뿐이며, RLVR로 기준(benchmark)을 돌리는 것은 취약한 톱니 모양의 결과를 가져올 수 있고, 순수 수학 천재 문제 같은 것이 오히려 단순한 비즈니스 흐름보다 더 어려울 수 있다고 지적했습니다. Jev의 일반화는 무한정 텍스트를 채우는 것에 의존하지 않고, 정확한 결정 작업과 교정된 기반 모델에 의존합니다. 초기 배포 단계는 초기 ChatGPT와 유사하여 신뢰성 곡선이 아직 전반부에 있으며, 비즈니스 워크플로우가 기존의 RLHF/비추론 모델을 점차 능가할 것이라고 했습니다.
2. 모델 vs 하네스: '마차 바퀴'식 껍데기(harness)를 거부하다: 그는 Jev를 하네스로 보는 대신 코드로 보아야 한다고 말했습니다. LLM에 while 루프와 도구 호출을 추가하는 것은 그저 형태일 뿐이며, 진정으로 유용한 것은 작업을 분포 안에 넣고 해당 데이터를 얻는 것입니다. Claude Code가 초기에 인기를 끌지 못했다가 나중에 급성장한 것이 단순한 하네스 마법이 아니라 코딩 에이전트 데이터가 분포 안으로 들어간 덕분이라고 그는 판단했습니다. OpenClaw도 마찬가지로, 형태가 아무리 좋아도 결정 지능이 없으면 안정하기 어렵습니다. Jev는 더 낮은 수준에 있으며, 사용자가 자신의 코드를 호출하고 비즈니스 로직이나 비밀 규칙을 시스템 프롬프트에 넣지 않고 데이터베이스/논리 게이트를 조정하듯이 애플리케이션에 내장합니다.
3. 개발자 포지셔닝과 노코드의 한계: Jev는 비프로그래머가 채팅으로 글을 쓰도록 하는 것이 아니며, 코드를 작성하는 행위 자체를 대체하는 것도 아닙니다. 대신 코드 판단력을 강화하는 원시 요소(primitive)입니다. Typesafe는 호스팅 방식의 만능 에이전트를 제공하지 않고, 모델, 확률, 편향만을 제공하며, 워크플로우, 데이터, 감사(audit)는 모두 사용자 측에 두어 장기적인 유지보수와 더 높은 수준의 인지 추상화 조합을 용이하게 합니다.

제(8)부 에이전트 아키텍처, KV 캐시, 워크플로우 미래 및 로드맵 (83% - 100%)
1. Jev가 에이전트 프레임워크에 재작성할 공간: 기존 에이전트는 주로 텍스트 모델을 사용하여 라우팅, 도구 선택, 루프 결정 등을 수행합니다. Jev는 신뢰할 수 있고 저렴한 판단 노드를 제공하여 인력 업그레이드, 의도 분류, 하위 작업 필터링 등을 할 수 있습니다. Diego는