Deepseek, 2조 개 파라미터 모델 학습 및 향후 8조 개 모델 계획
요약
DeepSeek은 현재 2조 개의 파라미터를 가진 모델을 학습하고 있으며, 장기적으로는 최대 8조 개 규모의 초대형 모델 구축을 목표로 하고 있습니다. 기존 Flash 모델은 5,520억 개 파라미터이며, Pro 모델은 총 1.6조 개의 파라미터를 보유한 것으로 알려졌습니다.
핵심 포인트
- DeepSeek이 2조 파라미터 규모의 모델 학습을 진행 중이다.
- 궁극적으로는 최대 8조 개 파라미터 모델 구축을 계획하고 있다.
- Flash 모델은 5,520억 개의 파라미터를 가지고 있다.
인용: DeepSeek은 2조 개의 파라미터를 가진 모델을 학습 중이며, 궁극적으로는 8조 개의 파라미터 모델을 구축할 계획입니다. https://x.com/wallstengine/status/2101982843656388644 현재 DeepSeek 모델 정보: Flash의 파라미터 수는 5,520억 개이며, Pro는 토큰당 490억 개의 활성화된 가중치(activated weights)를 가진 총 1.6조 개의 파라미터를 가지고 있습니다. Mythos / Fable은 추정으로 10조 개의 파라미터 수를 가집니다. 제출자: /u/Terminator857 [링크] [댓글]
AI 자동 생성 콘텐츠
본 콘텐츠는 r/LocalLLaMA의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기0