요즘 모두가 auto-regressive 방식이 아니면서 JSON 스키마을 통해 번개처럼 빠른 확률 예측을 하는 아키텍처에 대해 이야기합니다. 저는 이 작업을 정확히 1년 전인 2025년 3월에 진행했으며, arXiv 논문을 발표하고 모델을 huggingface에, pypi 패키지와 학습 데이터셋과 함께 올렸습니다. 그리고 1년 후, 한 선도 연구소(frontier lab)가 기술 논문이나 오픈 가중치, 공개 데이터셋 없이 문자 그대로 혁신적인 돌파구처럼 동일한 아이디어를 제안했습니다. 제가 이 서브레딧에 저의 접근 방식을 게시했습니다. 링크는 다음과 같습니다. Reddit 게시물: https://www.reddit.com/r/LocalLLaMA/s/6eGEwsAz43 논문: https://arxiv.org/abs/2503.23303 모델: https://huggingface.co/DeepMostInnovations/sales-conversion-model-reinf-learning 데이터셋: https://huggingface.co/datasets/DeepMostInnovations/saas-sales-conversations 또한 2025년 9월에 발표한 두 번째 작업 역시 지금 jev가 제안한 것과 정확히 동일합니다 논문: https://arxiv.org/abs/2510.01237 제 모델은 sequence embeddings 위에서 PPO를 사용하여 턴별(turn-by-turn) 전환 궤적(0.0에서 1.0 사이의 확률)을 출력합니다. Jev는 병렬 샘플링(RLCD를 통해 학습됨)을 사용하여 신뢰도 분포와 스키마 선택을 출력합니다. 몇 달간의 노력, 땀, 그리고 잠 못 이루던 밤으로 만든 것이 아키텍처적으로 유사한 수직적 사용 사례임에도 불구하고, 선도 연구소에서 무언가 수평적인 것을 구축했기 때문에 마땅히 받아야 할 지지를 받지 못하는 것이 믿을 수 없을 만큼 좌절스럽습니다. 전반적인 오픈소스 이야기 🙂 /u/Nandakishor_ml이 제출함 [링크] [댓글]