Cohere의 미출시 코딩 모델 (LocalLLaMA를 위한 얼리 액세스)

안녕하세요, Cohere의 Nick입니다. 지난주 Command A+에 보내주신 모든 피드백에 감사드립니다. 다른 출시 소식에 대한 스레드들은 항상 읽어보곤 했는데, 저희 모델에 대한 글을 읽으니 정말 즐겁네요 :) 앞으로도 이런 기회를 더 많이 갖고 싶습니다.

사실 저희는 곧 출시를 준비 중인 첫 번째 코딩 모델을 보유하고 있으며, 공식 출시 전에 이 커뮤니티에 테스트 기회를 제공하고 피드백을 받고 싶었습니다. 조금 색다른 시도를 해보면서 여러분의 직접적인 도움을 받는 건 어떨까 생각했습니다.

이 모델은 30B 모델로 3B의 활성 파라미터 (active params)를 가지고 있어 일부 로컬 환경에서도 원활하게 실행됩니다. 현재는 저희 Hugging Face에 올라와 있습니다 (곧 모델이 공식 출시되면 더 많은 플랫폼을 지원할 예정입니다). 크기는 작지만 팀원들은 이 모델의 속도에 매우 고무되어 있으며, 토큰 출력 (token output) 테스트 결과 유사한 크기의 모델들과 대등한 수준을 보여주고 있습니다.

가중치 (weights)는 여기에 있지만, 다시 말씀드리지만 아직 공개적으로 출시된 상태는 아니며 (심지어 완전히 준비된 것도 아닙니다) 따라서 여러분이 달성하고자 하는 목표에 맞춰 모델을 테스트해 보시길 권장합니다. 이번 출시를 통해 얻은 학습 내용을 바탕으로 모델을 개선하는 것이 목표이므로, 현재 이 모델이 어떻게 사용되는지에 따라 향후 개발 방향을 결정할 수 있는 여지가 있습니다.

한번 확인해 보시고 어떻게 작동하는지 알려주세요. 사람들이 어떻게 생각할지 정말 기대됩니다. 감사합니다 :)
submitted by /u/nick_frosst to r/LocalLLaMA
[link] [comments]