OpenMythos: Claude Mythos의 이론적 재구성 및 아키텍처 추측을 담은 오픈 소스 프로젝트
요약
OpenMythos는 Claude Mythos의 아키텍처를 이론적으로 재구성하고 추측한 오픈 소스 프로젝트입니다. 반복적 심층 트랜스포머, MoE, ACT 중단 메커니즘 등 모델의 내부 작동 원리에 대한 가설을 제시합니다.
핵심 포인트
- 반복적 심층 트랜스포머 구조에 대한 이론적 재구성
- 5% 활성화 비율을 가진 MoE 기반 아키텍처 가설
- 루프 인덱스 기반 위치 임베딩 및 ACT 중단 메커니즘
- 연속적 은닉 사고를 통한 너비 우선 탐색 방식 제안
AI 자동 생성 콘텐츠
본 콘텐츠는 X @DeepTechTR (AI/오픈소스)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기