Swift Models 다운로드 220만 돌파! 새로운 모델 얼리 액세스 및 연구원 무료 컴퓨팅 제공

안녕하세요, UkisAI의 Jovan입니다 (Swift Qwen)! 저희를 모르는 분들을 위해 말씀드리자면, UkisAI는 작지만 최첨단(frontier) LLM, 도구, 데이터셋을 만드는 작은 연구소이며 (+오픈 소스로 공개하고 있습니다!). 저는 이 팀원 중 한 명으로, 모델 훈련과 Reddit 게시물을 담당하고 있습니다. 저희의 첫 오픈 소스 공개작은 Swift라는 일련의 추론 효율적인 LLM입니다. 이는 다양한 LLM 내부에서 병리적인 과잉 사고(overthinking) 패턴을 페널티화하는 것이 토큰 사용량을 -58.3% 줄이고 정확도를 잃지 않으면서 속도는 x1.95로 높일 수 있음을 증명합니다 (이후 RL 방식으로 올바르게 학습시킬 경우). Swift 27B와 Swift Flash Next는 여기서 찾을 수 있으며, 여기에는 GSQ-RCO 양자화(quant) 모델과 검열되지 않은 변형 모델도 있습니다 (ISTA-DAS에 감사드립니다. 그리고 커뮤니티 여러분께 감사합니다). 저희 모델이 다운로드 200만 건을 돌파했다는 것이 솔직히 믿기지 않습니다... 팀원들과 저는 10만 건을 달성하면 축배를 들기로 약속했었는데, 지금 어떻게 축하해야 할지 모르겠지만 그동안 저희 모델에 기여해 주신 모든 분들께 감사드립니다. 독립적인 벤치마크, 양자화(quantization), 파인튜닝 또는 단순히 사용해주시는 등 어떤 형태로든 도움을 주신 분들 모두에게요. 여러분들이 계시지 않았다면 저희는 작업을 계속할 방법이 없었을 것이고, 이제 다운로드가 쇄도함에 따라 새로운 모델을 계속 훈련하고 로컬 AI 사용자들을 위한 다른 도구들을 만드는 것에 매우 기쁘게 생각합니다 (그리고 돈도 벌게 되었네요 ㅎㅎ).

이와 관련하여 오늘 두 가지를 공유합니다: Swift 사용자들과 더 쉽게 소통하고, 여러분의 생각과 아이디어를 얻으며, 저희가 작업해 온 새로운 모델과 도구들을 테스트할 수 있도록 Discord 커뮤니티를 만들고 있습니다 :) 처음 100명에 한해 다음 내용에 대한 얼리 액세스를 제공받을 수 있습니다:

• 미공개 Swift 모델 (Swift GLM 5.3 Flash와 Swift 9B를 학습시켰으며, HuggingFace에 올리기 전에 초기 테스터를 찾고 있습니다!)
• UkisAI Code (Codex를 로컬 모델에 맞게 수정 및 최적화한 코드입니다. 저희는 이를 내부적으로 오픈 소스 모델 원격 제어, 더 나은 브라우저 사용, /loop 등 용도로 사용합니다.)
• Swift.cpp (추론 엔진입니다. 모든 학습과 코딩을 내부적으로 로컬 모델을 통해 진행하기 때문에, Swift 모델에 특화되어 최적화되었고 저희 하드웨어에서 최대 30% 더 빠르게 실행되는 엔진을 만들었습니다)
  이후에는 커뮤니티가 모두에게 열리겠지만, 얼리 액세스 메커니즘을 아직 확정하는 중이라 당분간은 초대 전용으로 운영될 예정입니다. 이는 대부분의 사람들에게는 문제가 되지 않을 것입니다. 왜냐하면 테스터들이 접근하게 될 모든 자료들은 아무리 좋든 상관없이 오픈 소스이기 때문입니다. 얼리 액세스 참여 방법 (최대 100명): https://discord.gg/S2nNfQNFxh
  참여를 위한 일반 링크: https://discord.gg/XvX9J8nbkJ
  또한 UkisAI 연구 지원 프로그램도 만들고 있습니다. 저희는 자신만의 모델을 구축하거나 Swift 모델로 새로운 작업을 하는 놀라운 사람들에게 무료 컴퓨팅, LLM API 및 데이터셋 얼리 액세스를 제공하고자 합니다. 이것이 처음이라 당장 역량을 추정하기는 어려워, 연구를 도와드릴 수 있는 특정 인원수는 없습니다. 하지만 흥미롭다면 Discord로 저에게 메시지를 보내주세요. 제가 처리해 보겠습니다.
  마지막으로 말씀드리자면: 저희는 로컬 AI를 강력하게 믿으며, 오픈 소스가 개인 사용을 위한 모든 독점 클라우드 모델을 대체할 것이라고 생각합니다. 하지만 사용자로서 우리 자신조차도 그것을 실현하기 위한 모든 아이디어와 해결책을 가지고 있지는 않습니다. 이것이 바로 우리가 무엇을 만들어야 할지 알기 위해 커뮤니티의 도움이 필요한 이유입니다.

Swift 모델을 사용했든, 더 많은 Swift 모델이 필요하든 상관없이, 로컬 AI와 관련하여 필요한 도구, 해결해야 할 문제점, 또는 공유하고 싶은 모델 요청 사항들을 알려주세요. 이 모든 것은 로컬 AI가 클라우드보다 더 좋게 만들기 위해 우리가 만들어야 하는 여러 요소 중 하나일 뿐입니다. 함께 멋진 것을 만들어봅시다! submitted by /u/Secure_Recording_472 [link] [comments]