Jev라는 새로운 AI: 흥미로운 점과 주의할 점

새로운 AI인 Jev가 세상을 휩쓸고 있습니다. 하지만 텍스트조차 작성하지 못하는 AI 시스템에 왜 그렇게 열광해야 할까요? 인터넷을 제대로 돌아다닐 수 없다는 것이죠. 그러니 사실과 과장된 부분을 분리해 봅시다. 좋아요, 이 시스템은 텍스트를 쓰지 않습니다. 대신 질문과 몇 가지 옵션이 입력되면 하나의 답변이 나옵니다. '백만장자 게임' 같은 방식이죠? 하지만 답을 기다릴 필요가 없습니다. 지금의 챗봇보다 최대 약 200배 빠르게 즉시 나타납니다. 이것은 매우 유용합니다. 이 시스템으로 비디오 게임도 할 수 있습니다.

와! 여기서 질문은 '세계 상태(world state)'이고, 잠재적인 답변들은 취할 수 있는 움직임입니다. 그리고 만약 이게 극도로 빠르다면 실시간으로 무언가를 플레이할 수 있습니다. 하지만 더 좋은 점이 있습니다. LLM(거대 언어 모델)은 비교적 느립니다. 그래서 초지능 AI로 무언가를 코딩하면 모든 것이 시간이 오래 걸립니다. 하지만 그 과정에서 몇 가지 간단한 결정들도 필요합니다. 어떤 파일을 열까요? 어떤 실패가 중요할까요? 재시도할까요, 아니면 넘어갈까요? 그리고 바로 이 부분에서 Jev가 도움을 줄 수 있습니다. 이러한 결정들을 Jev에게 맡기면 거의 즉시 해결해 줍니다. 경우에 따라서는 마치 소설 같은 AI 시스템의 속도를 의미 있게 높이고 토큰 사용량까지 줄일 수 있습니다.

이것은 사물을 더 저렴하고 빠르게 만듭니다. 정말 놀랍습니다. 이제 공식적인 연구 논문은 없습니다. 하지만 여러분 중 학자분들께서는 아마도

[music] 그 지혜가 흘러나오게 하세요. 여러분의 논문을 붙잡으세요. 과학이 당신의 영혼을 가지고 있습니다. [music] 여러분의 논문을 붙잡으세요. 미래는 오늘 밤 별들로 빛납니다. 그리고 우리의 꿈을 살아있게 유지하는 불꽃을 보여주는 사람이 여기 있습니다. [music] 지금은 실제로 노래에 대해 이야기하고 있어요, 참고로요. 그래서 비슷한 아이디어들은 수년 동안 탐구되어 왔습니다. 정신적으로 놀라울 정도로 가까운 오픈 논문들이 있으며, 우리는 여기서 놀라운 과학과 연구를 기념합니다. 따라서 저는 이전에 공개된 작업의 배후에 있는 과학자분들께 큰 감사를 표하고 싶습니다.

따라서 Jev의 기본적인 아이디어는 결코 새롭지 않지만, Jev는 세 가지 요소를 결합했습니다. 첫째, 토큰을 생성하는 대신 의사결정을 하도록 구축된 새로운 아키텍처입니다. 둘째, 하나씩이 아니라 가능한 모든 답변을 한 번에 평가합니다. 이를 병렬 샘플링(parallel sampling)이라고 부릅니다. 그리고 셋째, AS의 신뢰도가 그것이 맞는 빈도와 대략적으로 일치하는 새로운 학습 방법인 RLCD를 부릅니다. 따라서 만약 [기침] 80%의 확신을 보인다면, 항상이 아니라 100번 중 약 80번은 맞아야 합니다. 이게 왜 좋을까요?

음, 이런 방식으로 여러분은 실제로 신뢰도 값을 살펴보고 그것을 믿어야 할지 아니면 더 강력하고 스마트한 모델로 되돌아가야 할지 결정할 수 있습니다. 다시 한번 말하지만, 비슷한 아이디어들은 수년 동안 탐구되어 왔지만, 이것이 조합된 방식은 우리에게 정말 유용한 새로운 도구를 제공하는 놀라운 조합입니다. 마음에 듭니다. 그리고 여러분 동료 학자분들도 그것의 오픈 소스 구현을 만들어내고 있습니다. 이것이야말로 최고의 오픈 사이언스입니다. 여러분은 대단합니다. 자, 침착하게 사실과 과장된 부분을 분리해 봅시다.

추론(inference)이나 텍스트-이미지 또는 비디오를 만드세요. 식은 죽 먹기입니다. Deepseek 챗봇이나 에이전트를 실행하는 것도요. 매우 빠르고, 매우 신뢰할 수 있습니다. Lambda는 여러분 자신의 실험을 수행할 강력한 Nvidia GPU를 제공합니다. 저는 제가 다루는 논문들의 아이디어를 테스트하고 몇 분 후에 결과가 나옵니다. 마음에 듭니다. 정말로 lambda.ai/papers에서 지금 시도해 보세요. 식은 죽 먹기입니다.